Wynajmij GPU NVIDIA Q RTX 4000 godzinowo
Karta NVIDIA Q RTX 4000 oparta na architekturze Turing jest dostępna do wynajęcia na ONIE do podstawowych zastosowań AI i grafiki. Oferuje 8 GB VRAM, około 7.7 TFLOPS mocy obliczeniowej w pojedynczej precyzji oraz przepustowość pamięci na poziomie około 353 GB/s w profilu mocy 125 W. Obsługując CUDA w wersji compute capability 7.5, ta instancja może zostać wdrożona z gotowymi szablonami dla PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania Q RTX 4000
Prototypowanie i debugowanie kodu
Testowanie i weryfikacja potoków PyTorch/CUDA na karcie GPU do stacji roboczych z 8 GB pamięci przed skalowaniem na większy sprzęt.
Wnioskowanie na kompaktowych modelach
Uruchamianie małych modeli językowych przez Ollama lub vLLM, które mieszczą się w 8 GB VRAM.
Podstawowe generowanie obrazów
Wykonywanie standardowych przepływów generowania obrazów w ComfyUI, które nie przekraczają limitu 8 GB pamięci.
Grafika i renderowanie na stacjach roboczych
Wykorzystanie architektury Turing i przepustowości pamięci na poziomie około 353 GB/s do zdalnego renderowania i zadań wizualizacji.
Czy to odpowiednie GPU do Państwa potrzeb?
Wybierz Q RTX 4000 do lekkiego wnioskowania, renderowania i tworzenia kodu, które mieszczą się w 8 GB VRAM i compute capability 7.5. Wybierz większą kartę GPU z większą ilością pamięci i nowszą architekturą do intensywnego trenowania modeli lub wnioskowania na dużą skalę albo mniejszą kartę do podstawowego wyświetlania lub prostych zadań obliczeniowych.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy Q RTX 4000 nadaje się do wnioskowania LLM i dostrajania?
Dzięki 8 GB VRAM i około 7.7 TFLOPS wydajności w pojedynczej precyzji karta nadaje się do wnioskowania na kompaktowych modelach przy użyciu Ollama lub vLLM. W przypadku większych modeli lub pełnego dostrajania należy wybrać kartę GPU z większą ilością VRAM i przepustowością pamięci wyższą niż około 353 GB/s.
Czy mogę użyć tej karty GPU do ComfyUI i generowania obrazów?
Tak, ONIE oferuje gotowy szablon ComfyUI, który działa na tej karcie GPU do stacji roboczych z architekturą Turing. Obsługuje standardowe potoki generowania mieszczące się w 8 GB pamięci, jednak większe potoki wymagają karty GPU z większą pamięcią.
Jak połączyć się z instancją i jakie oprogramowanie jest preinstalowane?
Możesz połączyć się bezpośrednio z uruchomioną instancją przez SSH. ONIE udostępnia gotowe szablony z PyTorch/CUDA, vLLM, Ollama i ComfyUI, dzięki czemu możesz od razu rozpocząć pracę.
Jak działa rozliczanie za Q RTX 4000 na ONIE?
Instancje są rozliczane co godzinę, dopóki karta GPU do stacji roboczych jest aktywna. Pozwala to uruchamiać sesje programistyczne lub renderowania i zakończyć instancję po ich zakończeniu.
Wynajmij Q RTX 4000 na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij Q RTX 4000