Īrējiet NVIDIA H100 PCIE GPU pa stundām
NVIDIA H100 PCIE ir Hopper arhitektūras datu centru GPU, kas paredzēts prasīgiem dziļās apmācības un zinātniskās skaitļošanas uzdevumiem. Tas nodrošina 80 GB VRAM, aptuveni 1760 GB/s atmiņas joslas platumu un aptuveni 41.0 TFLOPS standarta peldošā komata veiktspēju, patērējot 350 W. Vietnē ONIE varat izvietot šo compute capability 9.0 paātrinātāju ar norēķiniem par katru stundu un pilnu SSH piekļuvi.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots H100 PCIE
Lielo valodu modeļu inferēšana
Darbiniet lielos valodu modeļus atmiņā, izmantojot 80 GB VRAM un lielo atmiņas joslas platumu, kā arī iepriekš konfigurētas vLLM vai Ollama veidnes.
Modeļu precīzā pielāgošana un apmācība
Apmāciet vai precīzi pielāgojiet dziļos neironu tīklus, izmantojot Hopper arhitektūru un gatavas PyTorch/CUDA vides.
Attēlu ģenerēšana pakešapstrādē
Darbiniet augstas veiktspējas difūzijas konveijerus un sarežģītas ComfyUI darbplūsmas, kurām noder liela atmiņas ietilpība.
Datu zinātne un simulācija
Veiciet skaitļietilpīgas simulācijas un datu apstrādes uzdevumus ar aptuveni 41.0 TFLOPS standarta peldošā komata veiktspēju un aptuveni 1760 GB/s atmiņas caurlaidspēju.
Vai tas ir piemērots GPU Jums?
Izvēlieties H100 PCIE, ja Jūsu darba slodzēm nepieciešami 80 GB VRAM, datu centru līmeņa atmiņas joslas platums un Hopper compute capability 9.0 funkcijas. Vieglākai inferēšanai vai mazākiem modeļiem ekonomiskāks risinājums ir darbstacijas vai patērētāju GPU ar mazāku VRAM, savukārt ļoti augstas caurlaidspējas prasībām var būt piemērotāks datu centru variants ar SXM.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai H100 PCIE ir piemērots LLM precīzai pielāgošanai un inferēšanai?
Jā, tā 80 GB VRAM un aptuveni 1760 GB/s atmiņas joslas platums ir labi piemērots lielu modeļu darbināšanai un apmācībai. Varat nekavējoties sākt darbu, izmantojot iepriekš konfigurētas PyTorch/CUDA, vLLM vai Ollama veidnes.
Kā H100 PCIE atšķiras no SXM vai mazākiem darbstaciju GPU?
H100 PCIE darbojas ar 350 W TDP, nodrošinot mazāku enerģijas patēriņu un standarta PCIe saderību salīdzinājumā ar jaudīgākiem SXM datu centru variantiem. Salīdzinājumā ar darbstaciju vai patērētāju kartēm tas piedāvā ievērojami vairāk VRAM — 80 GB — un lielāku atmiņas joslas platumu.
Kādu programmatūru šis GPU atbalsta, un kāda ir tā skaitļošanas iespēju versija?
H100 PCIE pamatā ir NVIDIA Hopper arhitektūra, un tas atbalsta CUDA compute capability 9.0. Varat palaist instances ar gatavām PyTorch/CUDA un ComfyUI veidnēm vai konfigurēt savu programmatūras kopu, izmantojot SSH piekļuvi.
Kā darbojas norēķini par H100 PCIE instancēm vietnē ONIE?
Par instancēm vietnē ONIE tiek veikti vienkārši norēķini par katru stundu, tāpēc maksājat tikai par laiku, kamēr GPU ir aktīvs. Pilna SSH piekļuve ir iekļauta katrā izvietošanā.
Nomājiet H100 PCIE pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt H100 PCIE