Hyr NVIDIA H200 NVL GPU per timme
NVIDIA H200 NVL är en datacenter-GPU med Hopper-arkitektur, byggd för minnesintensiva arbetslaster. Den har 140 GB VRAM och en minnesbandbredd på cirka 3884 GB/s. Den arbetar inom en effektram på 600 W, stöder compute capability 9.0 och levererar cirka 48,3 TFLOPS standard flyttalsberäkning. Du kan driftsätta denna processor på ONIE med timvis fakturering, direkt SSH-åtkomst och färdiga mallar.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad H200 NVL passar för
Inferens med stora språkmodeller
Kör stora modeller i minnet utan sharding, med nytta av 140 GB VRAM-kapacitet och cirka 3884 GB/s minnesbandbredd.
Finjustering och träning av modeller
Träna och anpassa djupinlärningsmodeller med Hopper compute capability 9.0 och gott om GPU-minne för stora batchstorlekar.
Batchbearbetning med hög genomströmning
Bearbeta enorma datamängder och långa kontextfönster effektivt med förkonfigurerade PyTorch/CUDA-, vLLM- eller Ollama-mallar.
Vetenskaplig beräkning och simulering
Kör komplexa datacentersimuleringar som kräver cirka 48,3 TFLOPS standard flyttalsprestanda och rikligt med inbyggt minne.
Är det rätt GPU för dig?
Välj H200 NVL när din främsta flaskhals är VRAM-kapacitet och minnesbandbredd, särskilt för att köra stora modeller på ett enda kort. Om du kör lättare inferens, vanlig bildgenerering eller utvecklingsuppgifter som inte kräver 140 GB minne är en mindre workstation- eller konsument-GPU ett mer praktiskt val.
Jämför med liknande GPU:er
Vanliga frågor
Varför välja H200 NVL framför en vanlig Hopper-GPU?
H200 NVL ger 140 GB VRAM och cirka 3884 GB/s minnesbandbredd, vilket är mer minneskapacitet och bandbredd än tidigare Hopper-kort. Det gör att större modeller och kontextfönster får plats på en enda GPU.
Är H200 NVL lämplig för LLM-servering med vLLM eller Ollama?
Ja, minnespoolen på 140 GB och den höga minnesbandbredden gör den väl lämpad för servering av stora språkmodeller. ONIE erbjuder färdiga mallar för både vLLM och Ollama så att du snabbt kan komma igång.
Vilka programmiljöer och åtkomstsätt finns tillgängliga?
Varje instans inkluderar full SSH-åtkomst för egen konfiguration. Du kan också starta instanser med förinstallerade mallar, inklusive PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Hur fungerar faktureringen för H200 NVL på ONIE?
Instanser faktureras per timme. Du betalar endast för den tid som din H200 NVL-instans är aktiv.
Hyr H200 NVL per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr H200 NVL