Hyr NVIDIA H100 NVL GPU per timme
NVIDIA H100 NVL är en datacenter-GPU med Hopper-arkitektur, utrustad med 94 GB VRAM och beräkningskapacitet 9.0. Den levererar cirka 48.3 TFLOPS i enkelprecision och cirka 3381 GB/s minnesbandbredd inom en termisk effektbudget på 400 W. Hyr H100 NVL på ONIE med timdebitering, SSH-åtkomst och färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad H100 NVL passar för
Inferens med stora språkmodeller
Distribuera språkmodeller med hög kapacitet med vLLM eller Ollama. 94 GB VRAM och cirka 3381 GB/s minnesbandbredd ger snabb generering av tokens.
Finjustering av deep learning-modeller
Träna och finjustera neurala nätverk i PyTorch med funktioner från Hopper-arkitekturen och beräkningskapacitet 9.0.
Bildgenerering med hög upplösning
Kör komplexa arbetsflöden i ComfyUI och stora diffusionspipelines i minnet utan att flytta data till systemets RAM.
Vetenskaplig databehandling och simulering
Kör minnesintensiva datacenterarbetsbelastningar som drar nytta av cirka 48.3 TFLOPS beräkningskapacitet i enkelprecision.
Är det rätt GPU för dig?
Välj H100 NVL när dina AI- eller beräkningsarbetsbelastningar kräver mer minne än vanliga datacenterkort erbjuder, upp till 94 GB VRAM. En mindre arbetsstations- eller konsument-GPU passar bättre för lättare inferens och utveckling, medan du behöver flera GPU:er eller en större minneskapacitet om dina modeller kräver mer än 94 GB.
Jämför med liknande GPU:er
Vanliga frågor
Passar H100 NVL för inferens och finjustering av LLM:er?
Ja, med 94 GB VRAM och cirka 3381 GB/s minnesbandbredd passar den bra för att köra och finjustera stora språkmodeller som inte får plats på mindre datacenter-GPU:er.
Hur står sig H100 NVL jämfört med vanliga H100-varianter?
H100 NVL har utökad VRAM-kapacitet på 94 GB och en effektbudget på 400 W, vilket ger mer minnesutrymme än vanliga datacenterkonfigurationer med Hopper.
Vilka programvarumallar finns på ONIE för den här GPU:n?
Du kan distribuera H100 NVL med förkonfigurerade mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI, som alla stöder beräkningskapacitet 9.0.
Hur fungerar debitering och åtkomst när jag hyr H100 NVL?
Instanser på ONIE debiteras per timme och ger direkt SSH-åtkomst, så att du kan hantera din miljö och dina arbetsflöden direkt.
Hyr H100 NVL per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr H100 NVL