Wynajmij GPU NVIDIA H100 SXM godzinowo
Karta NVIDIA H100 SXM to akcelerator GPU do centrów danych oparty na architekturze Hopper, wyposażony w 80 GB pamięci VRAM i o poborze mocy 700 W. Zapewnia około 53,5 TFLOPS standardowej mocy obliczeniowej zmiennoprzecinkowej oraz przepustowość pamięci wynoszącą około 2869 GB/s, a także obsługuje CUDA w wersji compute capability 9.0. Wynajmij ją na ONIE z rozliczeniem za każdą godzinę, pełnym dostępem SSH i gotowymi szablonami dla PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Specyfikacja
VRAM na każde GPU
Architektura
Zdolność obliczeniowa
Moc obliczeniowa FP32
Przepustowość pamięci
Limit mocy
Wartości podane przez dostawcę infrastruktury dla obecnie dostępnych maszyn; rzeczywista wydajność zależy od konkretnej maszyny.
Dostępne konfiguracje
Dostępność i ceny na żywo, aktualizowane na bieżąco. Ostateczna cena zostanie potwierdzona przed złożeniem zamówienia.
Ładowanie aktualnych cen…
Zastosowania H100 SXM
Wnioskowanie w dużych modelach językowych (LLM)
Wdrażaj wymagające modele językowe w środowisku produkcyjnym, wykorzystując 80 GB pamięci VRAM i około 2869 GB/s przepustowości pamięci dzięki szablonom vLLM lub Ollama.
Dostrajanie modeli w uczeniu głębokim
Trenuj i dostrajaj sieci neuronowe, wykorzystując architekturę Hopper i CUDA w wersji compute capability 9.0 oraz wstępnie skonfigurowane środowiska PyTorch/CUDA.
Wsadowe przetwarzanie o wysokiej przepustowości
Uruchamiaj intensywne zadania przetwarzania danych i symulacji, które korzystają z około 53,5 TFLOPS mocy obliczeniowej w formacie do centrów danych o poborze mocy 700 W.
Wymagające przepływy pracy z mediami generatywnymi
Uruchamiaj złożone potoki ComfyUI i modele dyfuzyjne z dużymi rozmiarami wsadów, które mieszczą się w puli pamięci 80 GB.
Czy to odpowiednie GPU do Państwa potrzeb?
Wybierz H100 SXM, gdy obciążenia treningowe lub wnioskowania wymagają 80 GB wysokoprzepustowej pamięci klasy datacenter oraz funkcji architektury Hopper. Mniejsza stacja robocza lub karta konsumencka będzie bardziej praktycznym wyborem do lekkiego developmentu lub małych modeli, natomiast nowszy lub bardziej pojemny akcelerator klasy datacenter jest lepszym rozwiązaniem, jeśli pojedyncza instancja nie może pomieścić całego modelu w 80 GB pamięci VRAM.
Porównaj z podobnymi GPU
Często zadawane pytania
Czy H100 SXM nadaje się do dostrajania i wnioskowania w LLM?
Tak. Dzięki 80 GB pamięci VRAM i przepustowości pamięci wynoszącej około 2869 GB/s dobrze sprawdza się zarówno przy obsłudze, jak i dostrajaniu dużych modeli językowych. Można zacząć od razu na ONIE, korzystając z gotowych szablonów vLLM, Ollama lub PyTorch/CUDA.
Jak wariant SXM wypada na tle kart do centrów danych o niższym poborze mocy lub kart do stacji roboczych?
H100 SXM działa przy projektowanym poborze mocy termicznej (TDP) wynoszącym 700 W, co pozwala utrzymać wyższą wydajność obliczeniową i przepustowość pamięci niż warianty PCIe kart do centrów danych lub kart do stacji roboczych. Jeśli Państwa obciążenie nie wykorzystuje w pełni około 53,5 TFLOPS mocy obliczeniowej ani 80 GB pamięci, mniejszy GPU może być wystarczający.
Jakie możliwości oprogramowania zapewnia CUDA w wersji compute capability 9.0?
Compute capability 9.0 oznacza wsparcie sprzętowe dla instrukcji i funkcji architektury NVIDIA Hopper. Nasze wstępnie skonfigurowane szablony PyTorch/CUDA są gotowe do wykorzystania tego sprzętu bez ręcznej konfiguracji sterowników.
Jak działa rozliczanie i dostęp do instancji na ONIE?
Instancje są rozliczane za każdą godzinę trwania wynajmu. Po wdrożeniu można połączyć się bezpośrednio ze środowiskiem przez SSH lub korzystać z wstępnie zainstalowanych narzędzi, takich jak ComfyUI.
Wynajmij H100 SXM na godziny
Załóż konto, wybierz konfigurację i połącz się przez SSH. Rozliczanie zatrzymuje się po usunięciu GPU.
Wynajmij H100 SXM