Huur NVIDIA H200 NVL GPU per uur
Die NVIDIA H200 NVL is 'n datasentrum-GPU met die Hopper-argitektuur, gebou vir geheuegintensiewe werkladings. Dit bied 140 GB VRAM en 'n geheuebandwydte van ongeveer 3884 GB/s, werk teen 'n kraglimiet van 600 W, ondersteun rekenvermoë 9.0 en lewer ongeveer 48.3 TFLOPS standaard drywendekommaberekening. Jy kan hierdie verwerker op ONIE ontplooi met faktuurstelling per uur, direkte SSH-toegang en gereedgemaakte sjablone.
Spesifikasies
VRAM per GPU
Argitektuur
Rekenvermoë-vlak
FP32-rekenkrag
Geheuebandwydte
Kraglimiet
Waardes wat deur die infrastruktuurverskaffer vir masjiene wat tans gelys is, verskaf word; werklike werkverrigting wissel van masjien tot masjien.
Beskikbare konfigurasies
Lewendige voorraad en pryse, voortdurend opgedateer. Die finale prys word bevestig voordat jy bestel.
Lewendige pryse word gelaai…
Waarvoor die H200 NVL goed is
Inferensie van groot taalmodelle
Laat groot modelle in geheue loop sonder sharding, deur voordeel te trek uit die 140 GB VRAM-kapasiteit en ongeveer 3884 GB/s geheuebandwydte.
Modelafstelling en -opleiding
Lei diepleermodelle op en pas dit aan deur Hopper-rekenvermoë 9.0 en ruim GPU-geheue vir groot batchgroottes te gebruik.
Hoëdeurvoer-groepverwerking
Verwerk massiewe datastelle en lang kontekstvensters doeltreffend deur vooraf-gekonfigureerde PyTorch/CUDA-, vLLM- of Ollama-sjablone te gebruik.
Wetenskaplike berekening en simulasie
Voer komplekse datasentrumsimulasies uit wat ongeveer 48.3 TFLOPS standaard drywendekommaprestasie en aansienlike ingeboude geheue vereis.
Is dit die regte GPU vir jou?
Kies die H200 NVL wanneer jou primêre knelpunt VRAM-kapasiteit en geheuebandwydte is, veral vir die aanbied van groot modelle op 'n enkele kaart. As jy ligter inferensie, standaard beeldgenerering of ontwikkelingstake doen wat nie 140 GB geheue vereis nie, is 'n kleiner werkstasie- of verbruikers-GPU 'n meer praktiese keuse.
Vergelyk met soortgelyke GPU's
| GPU | VRAM per GPU | Argitektuur | FP32-rekenkrag | Vanaf / uur | Besonderhede |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Besonderhede |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Besonderhede |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Besonderhede |
Gereelde vrae
Waarom die H200 NVL kies bo 'n standaard Hopper-GPU?
Die H200 NVL bied 140 GB VRAM en ongeveer 3884 GB/s geheuebandwydte, wat hoër is as die geheuekapasiteit en -bandwydte van vroeëre Hopper-generasie-kaarte. Dit laat groter modelle en kontekstvensters toe om op 'n enkele GPU te pas.
Is die H200 NVL geskik vir LLM-diens met vLLM of Ollama?
Ja, die 140 GB-geheuepoel en hoë geheuebandwydte maak dit goed geskik vir die bediening van groot taalmodelle. ONIE bied gereedgemaakte sjablone vir sowel vLLM as Ollama om jou te help om vinnig te begin.
Watter sagteware-omgewings en toegangsmetodes is beskikbaar?
Elke instansie sluit volledige SSH-toegang in vir pasgemaakte konfigurasie. Jy kan ook instansies begin met vooraf geïnstalleerde sjablone, insluitend PyTorch/CUDA, vLLM, Ollama en ComfyUI.
Hoe werk faktuurstelling vir die H200 NVL op ONIE?
Instansies word per uur gefaktureer. Jy betaal slegs vir die tyd wat jou H200 NVL-instansie aktief is.
Huur die H200 NVL per uur
Skep 'n rekening, kies 'n konfigurasie en koppel oor SSH. Fakturering stop wanneer jy die GPU uitvee.
Huur H200 NVL