Hyr NVIDIA H100 SXM GPU per timme
NVIDIA H100 SXM är en datacenter-GPU med Hopper-arkitektur, 80 GB VRAM och en effektbudget på 700 W. Den levererar cirka 53.5 TFLOPS standardprestanda för flyttalsberäkningar och en minnesbandbredd på cirka 2869 GB/s, med stöd för CUDA-beräkningskapacitet 9.0. Hyr den på ONIE med timdebitering, full SSH-åtkomst och färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad H100 SXM passar för
Inferens med stora språkmodeller
Driftsätt krävande språkmodeller i produktion med 80 GB VRAM och cirka 2869 GB/s minnesbandbredd via mallar för vLLM eller Ollama.
Finjustering av djupinlärningsmodeller
Träna och finjustera neurala nätverk med Hopper-arkitektur och CUDA-beräkningskapacitet 9.0 i förkonfigurerade PyTorch/CUDA-miljöer.
Batchbearbetning med högt dataflöde
Kör intensiva datahanterings- och simuleringsjobb som drar nytta av cirka 53.5 TFLOPS beräkningsprestanda i ett datacenterformat på 700 W.
Krävande arbetsflöden för generativ media
Kör komplexa ComfyUI-pipelines och diffusionsmodeller med stora batchstorlekar som ryms väl inom minneskapaciteten på 80 GB.
Är det rätt GPU för dig?
Välj H100 SXM när dina tränings- eller inferensjobb kräver 80 GB datacenterminne med hög bandbredd och funktionerna i Hopper-arkitekturen. En mindre arbetsstations- eller konsument-GPU passar bättre för enklare utveckling eller små modeller. Om hela modellen inte ryms i 80 GB VRAM i en enda instans är en nyare GPU eller en datacenter-GPU med större kapacitet ett bättre val.
Jämför med liknande GPU:er
Vanliga frågor
Passar H100 SXM för finjustering och inferens av LLM:er?
Ja, 80 GB VRAM och en minnesbandbredd på cirka 2869 GB/s gör den väl lämpad för både drift och finjustering av stora språkmodeller. Kom igång direkt på ONIE med färdiga mallar för vLLM, Ollama eller PyTorch/CUDA.
Hur står sig SXM-varianten jämfört med datacenter- eller arbetsstations-GPU:er med lägre effektförbrukning?
H100 SXM har en termisk designeffekt på 700 W, vilket gör att den kan upprätthålla högre beräkningsprestanda och minnesbandbredd än PCIe-varianter för datacenter eller arbetsstationskort. Om ditt jobb inte utnyttjar cirka 53.5 TFLOPS beräkningsprestanda eller 80 GB minne fullt ut kan en mindre GPU räcka.
Vilken programvarukompatibilitet ger CUDA-beräkningskapacitet 9.0?
Beräkningskapacitet 9.0 innebär att maskinvaran stöder instruktioner och funktioner för NVIDIA Hopper-arkitekturen. Våra förkonfigurerade PyTorch/CUDA-mallar är redo att använda maskinvaran utan att du behöver konfigurera drivrutiner manuellt.
Hur fungerar debitering och åtkomst till instanser på ONIE?
Instanser debiteras per timme under hela hyresperioden. När instansen har startats kan du ansluta direkt till din miljö via SSH eller använda förinstallerade verktyg som ComfyUI.
Hyr H100 SXM per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr H100 SXM