Wynajmij GPU NVIDIA L40S godzinowo
NVIDIA L40S to procesor graficzny z architekturą Ada Lovelace, dostępny w wynajmie w chmurze na ONIE. Oferuje 45 GB VRAM, około 73,3 TFLOPS mocy obliczeniowej w pojedynczej precyzji oraz przepustowość pamięci na poziomie około 626 GB/s, przy poborze mocy 350 W. Obsługuje CUDA compute capability 8.9, dzięki czemu ta instancja sprawdza się w wymagających zadaniach związanych z trenowaniem i wnioskowaniem AI oraz z grafiką. Rozliczenie odbywa się za każdą godzinę.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania L40S
Wnioskowanie z dużych modeli językowych
Uruchamiaj modele językowe w wersji skwantyzowanej lub pełnej precyzji, korzystając z gotowych szablonów, takich jak vLLM i Ollama, w ramach 45 GB pamięci.
Generatywne przepływy pracy dla obrazów
Uruchamiaj złożone potoki dyfuzyjne i zadania generowania wsadowego w ComfyUI, wykorzystując architekturę Ada Lovelace.
Dostrajanie sieci neuronowych
Dostrajaj sieci neuronowe i adaptery LoRA w środowiskach PyTorch/CUDA, wykorzystując około 73,3 TFLOPS mocy obliczeniowej.
Grafika i renderowanie w centrum danych
Wykonuj zadania renderowania bez interfejsu graficznego (headless) oraz symulacje na procesorze graficznym klasy centrum danych o przepustowości pamięci na poziomie około 626 GB/s.
Czy to odpowiednie GPU do Państwa potrzeb?
Wybierz L40S, gdy obciążenie wymaga 45 GB VRAM i niezawodności klasy centrum danych, a wykracza to poza możliwości standardowych kart konsumenckich. Jeśli modele mieszczą się w mniejszej pamięci, mniejsza stacja robocza lub karta konsumencka będzie bardziej ekonomiczna. Ogromne modele fundamentowe bez kwantyzacji wymagają z kolei procesora graficznego klasy centrum danych z większą pamięcią.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy NVIDIA L40S nadaje się do wnioskowania z modeli LLM i ich dostrajania?
Tak. Dzięki 45 GB VRAM i CUDA compute capability 8.9 L40S dobrze sprawdza się przy obsłudze modeli średniej i dużej wielkości oraz dostrajaniu wydajnym parametrycznie (parameter-efficient fine-tuning). Instancje można uruchamiać z gotowymi szablonami vLLM, Ollama lub PyTorch/CUDA.
Jak L40S wypada na tle kart konsumenckich i większych procesorów graficznych klasy centrum danych?
L40S oferuje więcej VRAM niż standardowe karty konsumenckie z architekturą Ada Lovelace, dzięki czemu może przechowywać większe wagi modeli bez przenoszenia części danych do pamięci systemowej. Ma jednak niższą przepustowość pamięci niż procesory graficzne klasy centrum danych z dużą pamięcią, przeznaczone wyłącznie do obliczeń. Te ostatnie są lepszym wyborem przy dużych, wymagających pamięci zadaniach treningowych ograniczonych przepustowością.
Jak połączyć się z instancją L40S i ją skonfigurować na ONIE?
Pełny dostęp przez SSH do środowiska jest dostępny od razu po uruchomieniu instancji. Można też wybrać gotowe szablony, w tym PyTorch/CUDA, ComfyUI, vLLM i Ollama, aby od razu rozpocząć pracę.
Jak działa rozliczanie w przypadku L40S?
ONIE rozlicza wszystkie wynajmy L40S za każdą godzinę. Opłata obejmuje wyłącznie czas, w którym instancja jest przydzielona.
Wynajmij L40S na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij L40S