Wynajmij GPU NVIDIA RTX 3090 godzinowo
NVIDIA RTX 3090 to konsumencki procesor graficzny z architekturą Ampere, wyposażony w 24 GB VRAM i compute capability 8.6. Zapewnia około 35,4 TFLOPS standardowej mocy obliczeniowej w precyzji pojedynczej (single-precision) oraz około 805 GB/s przepustowości pamięci, przy mocy znamionowej 350 W. Ten GPU można wynająć w ONIE z rozliczaniem godzinowym, pełnym dostępem SSH oraz gotowymi szablonami dla PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania RTX 3090
Wnioskowanie LLM na lokalną skalę
Uruchamiaj skwantyzowane lub średniej wielkości modele językowe w 24 GB VRAM, korzystając z gotowych szablonów vLLM lub Ollama.
Procesy generowania obrazów
Wdróż ComfyUI, aby generować obrazy w wysokiej rozdzielczości i uruchamiać własne potoki dyfuzyjne bez przekraczania limitów pamięci, z którymi mierzą się standardowe karty konsumenckie.
Dostrajanie i trenowanie modeli
Korzystaj z szablonu PyTorch/CUDA, aby dostrajać sieci neuronowe mieszczące się w 24 GB pamięci i wykorzystywać przepustowość pamięci na poziomie około 805 GB/s.
Ogólne obliczenia CUDA
Uruchamiaj własne obciążenia skompilowane dla compute capability 8.6, z wydajnością około 35,4 TFLOPS w precyzji pojedynczej.
Czy to odpowiednie GPU do Państwa potrzeb?
RTX 3090 sprawdzi się u programistów i badaczy, którzy potrzebują 24 GB VRAM do zadań wymagających dużej ilości pamięci na konsumenckiej karcie z architekturą Ampere. Do lekkiego wnioskowania, które wymaga mniej pamięci, lepszy będzie mniejszy GPU. Jeśli modele przekraczają 24 GB VRAM lub wymagają funkcji nowszej architektury, warto przejść na procesor graficzny klasy stacji roboczej lub centrum danych.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy RTX 3090 nadaje się do wnioskowania i dostrajania LLM?
Tak. Dzięki 24 GB VRAM i przepustowości pamięci na poziomie około 805 GB/s karta pozwala uruchamiać i dostrajać wiele modeli językowych o otwartych wagach. Szablony vLLM, Ollama lub PyTorch/CUDA można uruchomić bezpośrednio w ONIE, aby od razu rozpocząć pracę.
Jak RTX 3090 wypada na tle mniejszych i większych GPU?
Dzięki 24 GB VRAM RTX 3090 mieści znacznie więcej wag modelu i większe rozmiary wsadów niż karty konsumenckie z niższej półki. Jeśli jednak obciążenie wymaga więcej niż 24 GB pamięci lub wydajności w precyzji pojedynczej powyżej około 35,4 TFLOPS, warto rozważyć nowszą generację lub GPU klasy centrów danych.
Jak połączyć się z instancją RTX 3090 i jakie oprogramowanie jest w niej zawarte?
Połączenie z instancją jest możliwe bezpośrednio przez SSH. ONIE udostępnia gotowe szablony dla PyTorch/CUDA, vLLM, Ollama i ComfyUI, dzięki czemu stos oprogramowania nie wymaga ręcznej konfiguracji.
Jak działa rozliczanie za RTX 3090 w ONIE?
Instancje są rozliczane godzinowo. Opłata obejmuje wyłącznie czas, w którym instancja GPU jest aktywna.
Wynajmij RTX 3090 na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij RTX 3090