Wynajmij GPU NVIDIA CMP 170HX godzinowo
Karta NVIDIA CMP 170HX to akcelerator GPU dla centrów danych oparty na architekturze Ampere, wyposażony w 64 GB pamięci VRAM i TDP na poziomie 250 W. Zapewnia przepustowość pamięci na poziomie około 1516 GB/s oraz około 12.1 TFLOPS mocy obliczeniowej w pojedynczej precyzji przy zdolności obliczeniowej (compute capability) 8.0. Na ONIE kartę można uruchomić z rozliczaniem za godzinę, pełnym dostępem SSH oraz gotowymi szablonami dla PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania CMP 170HX
Wnioskowanie LLM ograniczone pamięcią
Obsługuj duże modele językowe za pośrednictwem vLLM lub Ollama, wykorzystując pojemność 64 GB VRAM oraz przepustowość pamięci na poziomie około 1516 GB/s.
Głębokie uczenie z dużą ilością pamięci
Uruchamiaj obciążenia PyTorch/CUDA wymagające dużej pojemności pamięci i zdolności obliczeniowej 8.0 bez dzielenia modeli między urządzenia.
Złożone workflow generowania obrazów
Ładuj jednocześnie wiele dużych punktów kontrolnych dyfuzji i ControlNet w ComfyUI w ramach puli pamięci 64 GB.
Przetwarzanie danych i symulacje
Wykonuj zadania centrów danych wymagające dużej ilości pamięci i wysokiej przepustowości, w ramach obwodu mocy 250 W.
Czy to odpowiednie GPU do Państwa potrzeb?
Warto wybrać CMP 170HX, gdy obciążenie jest ograniczone pojemnością i przepustowością pamięci, a nie surową mocą obliczeniową w pojedynczej precyzji. Należy wybrać GPU o wyższej wydajności obliczeniowej, jeśli potrzebne są szybsze iteracje trenowania, lub mniejszą kartę konsumencką, jeśli modele nie wymagają 64 GB VRAM.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy CMP 170HX nadaje się do wnioskowania LLM?
Tak, 64 GB pamięci VRAM oraz przepustowość pamięci na poziomie około 1516 GB/s sprawiają, że karta dobrze nadaje się do ładowania i obsługi dużych modeli językowych przy użyciu szablonów takich jak vLLM i Ollama. Ponieważ jednak zapewnia około 12.1 TFLOPS mocy obliczeniowej w pojedynczej precyzji, przetwarzanie promptów będzie wolniejsze niż na akceleratorach dla centrów danych o wyższej gęstości obliczeniowej.
Jak ten GPU wypada na tle standardowych akceleratorów dla centrów danych?
CMP 170HX oferuje duży bufor pamięci 64 GB i wysoką przepustowość pamięci, zbliżoną do standardowych kart Ampere dla centrów danych, przy TDP 250 W. Jej główny kompromis to niższa wydajność obliczeniowa, wynosząca około 12.1 TFLOPS, dlatego karta lepiej sprawdza się w zadaniach ograniczonych pamięcią niż w intensywnych obliczeniowo.
Jakie środowiska programistyczne są dostępne dla tego GPU?
Karta obsługuje CUDA w zdolności obliczeniowej 8.0 i może zostać uruchomiona na ONIE przy użyciu gotowych szablonów, w tym PyTorch/CUDA, vLLM, Ollama i ComfyUI. Dostępny jest także bezpośredni dostęp SSH, umożliwiający instalację własnych bibliotek i zarządzanie środowiskiem.
Jak działa rozliczanie przy wynajmie CMP 170HX?
Instancje na ONIE są rozliczane za godzinę, więc płaci się wyłącznie za czas, w którym GPU pozostaje aktywne.
Wynajmij CMP 170HX na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij CMP 170HX