Īrējiet NVIDIA H100 SXM GPU pa stundām
NVIDIA H100 SXM ir Hopper arhitektūras datu centra GPU ar 80 GB VRAM un 700 W jaudas ierobežojumu. Tas nodrošina aptuveni 53.5 TFLOPS standarta peldošā komata aprēķinu veiktspēju un aptuveni 2869 GB/s atmiņas joslas platumu, kā arī atbalsta CUDA compute capability 9.0. Nomājiet to vietnē ONIE ar stundas norēķiniem, pilnu SSH piekļuvi un gatavām veidnēm PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots H100 SXM
Lielo valodu modeļu inferencēšana
Izvietojiet ražošanas vidē prasīgus valodu modeļus, izmantojot 80 GB VRAM ietilpību un aptuveni 2869 GB/s atmiņas joslas platumu, izmantojot vLLM vai Ollama veidnes.
Padziļinātā mācīšanās un precīzā pielāgošana
Apmāciet un precīzi pielāgojiet neironu tīklus, izmantojot Hopper arhitektūru un CUDA compute capability 9.0, kā arī iepriekš konfigurētas PyTorch/CUDA vides.
Lielas caurlaidspējas pakešapstrāde
Izpildiet intensīvas datu apstrādes un simulācijas slodzes, kurām noder aptuveni 53.5 TFLOPS aprēķinu veiktspēja 700 W datu centra formātā.
Resursietilpīgas ģeneratīvā satura darbplūsmas
Izpildiet sarežģītas ComfyUI darbplūsmas un difūzijas modeļus ar lieliem pakešu izmēriem, kas ērti ietilpst 80 GB atmiņā.
Vai tas ir piemērots GPU Jums?
Izvēlieties H100 SXM, ja jūsu apmācības vai inferencēšanas slodzēm nepieciešama 80 GB liela datu centra atmiņa ar augstu joslas platumu un Hopper arhitektūras iespējas. Vieglai izstrādei vai maziem modeļiem praktiskāka izvēle ir mazāks darbstacijas vai patērētāju GPU, savukārt jaunāks vai ietilpīgāks datu centra GPU būs piemērotāks, ja visu jūsu modeli nevar ievietot vienas instances 80 GB VRAM.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai H100 SXM ir piemērots LLM precīzai pielāgošanai un inferencēšanai?
Jā, 80 GB VRAM un aptuveni 2869 GB/s atmiņas joslas platums padara to piemērotu gan lielu valodu modeļu apkalpošanai, gan precīzai pielāgošanai. Varat nekavējoties sākt darbu vietnē ONIE, izmantojot gatavas vLLM, Ollama vai PyTorch/CUDA veidnes.
Kā SXM variants atšķiras no mazākas jaudas datu centra vai darbstacijas GPU?
H100 SXM termiskā projektētā jauda ir 700 W, kas ļauj tam ilgstoši nodrošināt lielāku aprēķinu veiktspēju un atmiņas joslas platumu nekā PCIe datu centra variantiem vai darbstaciju kartēm. Ja jūsu slodze neizmanto pilnībā aptuveni 53.5 TFLOPS aprēķinu veiktspēju vai 80 GB atmiņu, var pietikt ar mazāku GPU.
Kādu programmatūras saderību nodrošina CUDA compute capability 9.0?
Compute capability 9.0 norāda uz aparatūras atbalstu NVIDIA Hopper arhitektūras instrukcijām un funkcijām. Mūsu iepriekš konfigurētās PyTorch/CUDA veidnes ir gatavas šīs aparatūras izmantošanai bez manuālas draiveru iestatīšanas.
Kā vietnē ONIE darbojas norēķini un piekļuve instancei?
Par instancēm tiek iekasēta maksa par katru nomas stundu. Pēc izvietošanas varat tieši izveidot savienojumu ar savu vidi, izmantojot SSH, vai izmantot iepriekš instalētus rīkus, piemēram, ComfyUI.
Nomājiet H100 SXM pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt H100 SXM