Īrējiet NVIDIA H200 NVL GPU pa stundām
NVIDIA H200 NVL ir Hopper arhitektūras datu centru GPU, kas paredzēts atmiņietilpīgām slodzēm. Tas piedāvā 140 GB VRAM un aptuveni 3884 GB/s atmiņas joslas platumu. Tā enerģijas patēriņa limits ir 600 W, tas atbalsta skaitļošanas iespēju 9.0 un nodrošina aptuveni 48.3 TFLOPS standarta peldošā komata aprēķinu veiktspēju. Šo procesoru varat izvietot vietnē ONIE, maksājot par katru stundu, ar tiešu SSH piekļuvi un gatavām veidnēm.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots H200 NVL
Lielo valodu modeļu inferēšana
Darbiniet lielus modeļus atmiņā bez sadalīšanas starp ierīcēm, izmantojot 140 GB VRAM ietilpību un aptuveni 3884 GB/s atmiņas joslas platumu.
Modeļu precīzā pielāgošana un apmācība
Apmāciet un pielāgojiet dziļās apmācības modeļus, izmantojot Hopper skaitļošanas iespēju 9.0 un lielu GPU atmiņu, kas piemērota lieliem pakešu izmēriem.
Liela apjoma pakešapstrāde
Efektīvi apstrādājiet milzīgas datu kopas un garus konteksta logus, izmantojot iepriekš konfigurētas PyTorch/CUDA, vLLM vai Ollama veidnes.
Zinātniskie aprēķini un simulācija
Veiciet sarežģītas datu centru simulācijas, kurām nepieciešama aptuveni 48.3 TFLOPS standarta peldošā komata veiktspēja un ievērojama iebūvētā atmiņa.
Vai tas ir piemērots GPU Jums?
Izvēlieties H200 NVL, ja galvenais veiktspējas ierobežojums ir VRAM ietilpība un atmiņas joslas platums, jo īpaši, ja vēlaties vienā kartē darbināt lielus modeļus. Ja veicat vieglāku inferēšanu, standarta attēlu ģenerēšanu vai izstrādes uzdevumus, kam nav nepieciešama 140 GB atmiņa, praktiskāka izvēle būs mazāks darbstacijas vai patērētāju klases GPU.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Kāpēc izvēlēties H200 NVL, nevis standarta Hopper GPU?
H200 NVL nodrošina 140 GB VRAM un aptuveni 3884 GB/s atmiņas joslas platumu, kas pārsniedz iepriekšējās Hopper paaudzes karšu atmiņas ietilpību un joslas platumu. Tādējādi lielākus modeļus un konteksta logus var ievietot vienā GPU.
Vai H200 NVL ir piemērots LLM apkalpošanai ar vLLM vai Ollama?
Jā, 140 GB atmiņa un liels atmiņas joslas platums ir īpaši piemēroti lielo valodu modeļu apkalpošanai. ONIE piedāvā gatavas vLLM un Ollama veidnes, lai Jūs varētu ātri sākt darbu.
Kādas programmatūras vides un piekļuves metodes ir pieejamas?
Katra instance ietver pilnu SSH piekļuvi pielāgotai konfigurēšanai. Varat arī palaist instances ar iepriekš instalētām veidnēm, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Kā tiek aprēķināta maksa par H200 NVL vietnē ONIE?
Maksa par instancēm tiek aprēķināta par katru stundu. Jūs maksājat tikai par laiku, kamēr Jūsu H200 NVL instance ir aktīva.
Nomājiet H200 NVL pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt H200 NVL