Īrējiet NVIDIA H100 NVL GPU pa stundām
NVIDIA H100 NVL ir datu centru GPU ar Hopper arhitektūru, 94 GB VRAM un 9.0 skaitļošanas iespējām. Tā nodrošina aptuveni 48.3 TFLOPS vienas precizitātes veiktspēju un aptuveni 3381 GB/s atmiņas joslas platumu, nepārsniedzot 400 W siltuma jaudas robežu. Nomājiet H100 NVL pakalpojumā ONIE ar stundas norēķiniem, SSH piekļuvi un gatavām veidnēm PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots H100 NVL
Lielo valodu modeļu inferēšana
Izvietojiet lielas ietilpības valodu modeļus ar vLLM vai Ollama, izmantojot 94 GB VRAM un aptuveni 3381 GB/s atmiņas joslas platumu, lai ātri ģenerētu tokenus.
Padziļinātā mācīšanās un precīzā pielāgošana
Apmāciet un precīzi pielāgojiet neironu tīklus ar PyTorch, izmantojot Hopper arhitektūras funkcijas un 9.0 skaitļošanas iespējas.
Augstas izšķirtspējas attēlu ģenerēšana
Palaidiet sarežģītas ComfyUI darbplūsmas un lielus difūzijas konveijerus atmiņā, nenovirzot datus uz sistēmas RAM.
Zinātniskā skaitļošana un simulācija
Izpildiet datu centriem paredzētas, atmiņas ietilpīgas slodzes, kurām noder aptuveni 48.3 TFLOPS vienas precizitātes skaitļošanas jauda.
Vai tas ir piemērots GPU Jums?
Izvēlieties H100 NVL, ja Jūsu AI vai skaitļošanas slodzēm nepieciešams vairāk atmiņas nekā standarta datu centru kartes nodrošina — līdz pat 94 GB VRAM. Mazākai slodzei, piemēram, vieglai inferēšanai un izstrādei, piemērotāks būs mazāks darbstacijas vai patērētāju GPU, savukārt modeļiem, kas pārsniedz 94 GB, būs nepieciešama vairāku GPU konfigurācija vai lielāks atmiņas apjoms.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai H100 NVL ir piemērots LLM inferēšanai un precīzai pielāgošanai?
Jā. 94 GB VRAM un aptuveni 3381 GB/s atmiņas joslas platums padara to par lieliski piemērotu risinājumu tādu lielo valodu modeļu darbināšanai un precīzai pielāgošanai, kuri neietilpst mazākos datu centru GPU.
Kā H100 NVL atšķiras no standarta H100 variantiem?
H100 NVL nodrošina palielinātu 94 GB VRAM ietilpību un 400 W jaudas robežu, piedāvājot vairāk atmiņas rezervju nekā standarta Hopper konfigurācijas datu centriem.
Kādas programmatūras veidnes šim GPU ir pieejamas pakalpojumā ONIE?
H100 NVL varat izvietot, izmantojot iepriekš konfigurētas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes, kas visas atbalsta 9.0 skaitļošanas iespējas.
Kā darbojas norēķini un piekļuve, nomājot H100 NVL?
Par instancēm pakalpojumā ONIE norēķini notiek pa stundām, un tiek nodrošināta tieša SSH piekļuve, lai Jūs varētu nekavējoties pārvaldīt savu vidi un darbplūsmas.
Nomājiet H100 NVL pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt H100 NVL