Lei NVIDIA H100 SXM GPU per time
NVIDIA H100 SXM er en datasenter-GPU med Hopper-arkitektur, utstyrt med 80 GB VRAM og et effektbudsjett på 700 W. Den leverer omtrent 53,5 TFLOPS standard flyttallsregning og en minnebåndbredde på omtrent 2869 GB/s, og støtter CUDA compute capability 9.0. Leie den på ONIE med timebasert fakturering, full SSH-tilgang og klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva H100 SXM er god til
Inferens med store språkmodeller
Ta krevende språkmodeller i produksjon ved hjelp av 80 GB VRAM-kapasiteten og omtrent 2869 GB/s minnebåndbredde, via vLLM- eller Ollama-maler.
Finjustering av dyp læring
Tren og finjuster nevrale nettverk med Hopper-arkitekturen og CUDA compute capability 9.0, med forhåndskonfigurerte PyTorch/CUDA-miljøer.
Batch-prosessering med høy gjennomstrømning
Kjør intensive databehandlings- og simuleringsarbeidslaster som drar nytte av omtrent 53,5 TFLOPS regnekraft i en datasenterform på 700 W.
Krevende arbeidsflyter for generativt medieinnhold
Kjør komplekse ComfyUI-pipelines og diffusjonsmodeller med store batch-størrelser som får plass i minnepoolen på 80 GB.
Er dette den riktige GPU-en for deg?
Velg H100 SXM når trenings- eller inferensarbeidet ditt krever 80 GB høybåndbredde datasenterminne og funksjoner fra Hopper-arkitekturen. En mindre arbeidsstasjons- eller forbruker-GPU er et mer praktisk valg for lett utvikling eller små modeller, mens en nyere GPU med høyere kapasitet i datasenterklassen er bedre hvis én instans ikke kan holde hele modellen i 80 GB VRAM.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er H100 SXM egnet for finjustering og inferens av LLM-er?
Ja, 80 GB VRAM og minnebåndbredde på omtrent 2869 GB/s gjør den godt egnet både til å servere og til å finjustere store språkmodeller. Du kan starte umiddelbart på ONIE med klare maler for vLLM, Ollama eller PyTorch/CUDA.
Hvordan sammenlignes SXM-varianten med GPU-er for datasenter eller arbeidsstasjon med lavere effekt?
H100 SXM opererer med en termisk designeffekt på 700 W, noe som gjør at den kan opprettholde høyere regnekraft og minnebåndbredde enn PCIe-varianter for datasenter eller arbeidsstasjonskort. Hvis arbeidslasten din ikke utnytter omtrent 53,5 TFLOPS regnekraft eller 80 GB minne fullt ut, kan en mindre GPU være tilstrekkelig.
Hvilken programvarekompatibilitet gir CUDA compute capability 9.0?
Compute capability 9.0 viser maskinvarestøtte for instruksjoner og funksjoner i NVIDIA Hopper-arkitekturen. Våre forhåndskonfigurerte PyTorch/CUDA-maler er klare til å utnytte denne maskinvaren uten manuelt oppsett av drivere.
Hvordan fungerer fakturering og instanstilgang på ONIE?
Instanser faktureres per time for hele leieperioden. Når den er satt i drift, kan du koble direkte til miljøet ditt via SSH-tilgang eller bruke forhåndsinstallerte verktøy som ComfyUI.
Lei H100 SXM per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei H100 SXM