Wynajmij GPU NVIDIA L4 godzinowo
NVIDIA L4 to procesor graficzny GPU z architekturą Ada Lovelace, przeznaczony do centrów danych, z 22 GB VRAM i poborem mocy 72 W. Zapewnia około 24.2 TFLOPS wydajności obliczeń zmiennoprzecinkowych pojedynczej precyzji oraz przepustowość pamięci około 221 GB/s, przy zdolności obliczeniowej CUDA 8.9. Wynajmij go w ONIE z rozliczaniem co godzinę, pełnym dostępem SSH i gotowymi szablonami dla PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania L4
Inferencja modeli językowych
Uruchamiaj skwantyzowane lub małe i średnie modele językowe w 22 GB VRAM, korzystając z gotowych szablonów vLLM lub Ollama.
Przepływy generowania obrazów
Wdrażaj potoki ComfyUI, które mieszczą się wygodnie w 22 GB pamięci i wykorzystują możliwości architektury Ada Lovelace.
Lekkie dostrajanie modeli
Wykonuj zadania dostrajania z użyciem metod wydajnych parametrycznie oraz trenowania adapterów w środowiskach PyTorch/CUDA, bez potrzeby korzystania z karty o wysokim poborze mocy.
Przetwarzanie wsadowe mediów i wizji
Przetwarzaj wnioskowanie w wizji komputerowej oraz obciążenia wideo na GPU do centrów danych o mocy znamionowej 72 W.
Czy to odpowiednie GPU do Państwa potrzeb?
Wybierz L4, gdy potrzebujesz 22 GB VRAM i zdolności obliczeniowej Ada Lovelace CUDA 8.9 do inferencji lub umiarkowanych zadań trenowania. Przejdź na większy GPU do centrów danych, jeśli modele przekraczają 22 GB lub wymagają przepustowości pamięci wyższej niż około 221 GB/s. Wybierz mniejszą kartę do podstawowych zadań deweloperskich, które wymagają mniej pamięci.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy NVIDIA L4 nadaje się do inferencji LLM?
Tak, 22 GB VRAM pozwala hostować małe i średnie modele językowe lub skwantyzowane wagi. Szablony vLLM lub Ollama możesz uruchomić w ONIE i od razu rozpocząć obsługę modeli.
Jak L4 wypada na tle większych GPU do centrów danych?
L4 został zaprojektowany z myślą o efektywności: pobór mocy 72 W, około 24.2 TFLOPS obliczeń w pojedynczej precyzji i przepustowość pamięci około 221 GB/s. Większe GPU do centrów danych oferują więcej VRAM i wyższą przepustowość pamięci do intensywnego trenowania, natomiast L4 koncentruje się na opłacalnej inferencji i lekkich obciążeniach.
Jakie szablony oprogramowania są dostępne dla L4 w ONIE?
L4 możesz wdrożyć, korzystając z gotowych szablonów PyTorch/CUDA, vLLM, Ollama i ComfyUI. Wszystkie instancje mają dostęp SSH, dzięki czemu możesz dostosować środowisko oprogramowania oraz przepływy pracy oparte na CUDA 8.9.
Jak działa rozliczanie instancji L4?
ONIE rozlicza instancje L4 co godzinę. Płacisz wyłącznie za czas, w którym instancja jest aktywna, co sprawdza się zarówno przy krótkich eksperymentach, jak i przy stałej inferencji.
Wynajmij L4 na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij L4