Lei NVIDIA H100 NVL GPU per time
NVIDIA H100 NVL er et datasenter-GPU med Hopper-arkitektur, utstyrt med 94 GB VRAM og compute capability 9.0. Den leverer omtrent 48,3 TFLOPS enkeltpresisjonsytelse og omtrent 3381 GB/s minnebåndbredde innenfor en termisk ramme på 400 W. Leie H100 NVL på ONIE med timebasert fakturering, SSH-tilgang og klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva H100 NVL er god til
Inferens med store språkmodeller
Kjør språkmodeller med høy kapasitet med vLLM eller Ollama ved hjelp av 94 GB VRAM og omtrent 3381 GB/s minnebåndbredde for rask tokengenerering.
Finjustering av dyp læring
Tren og finjuster nevrale nettverk i PyTorch ved å bruke funksjoner i Hopper-arkitekturen og compute capability 9.0.
Bildegenerering i høy oppløsning
Kjør avanserte ComfyUI-arbeidsflyter og store diffusjonspipelines i minnet uten avlasting til systemets RAM.
Vitenskapelig beregning og simulering
Kjør minneintensive datasenterarbeidsbelastninger som drar nytte av omtrent 48,3 TFLOPS enkeltpresisjonsberegning.
Er dette den riktige GPU-en for deg?
Velg H100 NVL når dine AI- eller beregningsoppgaver krever mer minne enn standard datasenterkort gir, opptil 94 GB VRAM. En mindre arbeidsstasjons- eller forbrukerGPU er et bedre valg for lett inferens og utvikling, mens et oppsett med flere GPU-er eller en større minnekapasitet er nødvendig hvis modellene dine overstiger 94 GB.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er H100 NVL egnet for LLM-inferens og finjustering?
Ja, 94 GB VRAM og omtrent 3381 GB/s minnebåndbredde gjør den godt egnet til å betjene og finjustere store språkmodeller som ikke får plass på mindre datasenter-GPU-er.
Hvordan sammenlignes H100 NVL med standard H100-varianter?
H100 NVL tilbyr utvidet VRAM-kapasitet på 94 GB og en effektramme på 400 W, og gir ekstra minnemargin sammenlignet med standard Hopper-konfigurasjoner for datasentre.
Hvilke programvaremaler finnes på ONIE for denne GPU-en?
Du kan ta i bruk H100 NVL med forhåndskonfigurerte maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI, som alle støtter compute capability 9.0.
Hvordan fungerer fakturering og tilgang når jeg leier H100 NVL?
Instanser på ONIE faktureres per time og gir direkte SSH-tilgang, slik at du kan administrere miljøet og arbeidsflytene dine umiddelbart.
Lei H100 NVL per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei H100 NVL