GPU Cloud · NVIDIA · Hopper

Huur een NVIDIA H200 NVL GPU per uur

De NVIDIA H200 NVL is een datacenter-GPU op basis van de Hopper-architectuur, ontworpen voor geheugenintensieve workloads. Hij biedt 140 GB VRAM en een geheugenbandbreedte van ongeveer 3884 GB/s. Hij werkt binnen een vermogensbudget van 600 W, ondersteunt compute capability 9.0 en levert ongeveer 48.3 TFLOPS aan standaard floating-point-rekenkracht. U kunt deze GPU op ONIE inzetten met facturering per uur, directe SSH-toegang en kant-en-klare templates.

Specificaties

VRAM per GPU

140 GB

Architectuur

NVIDIA Hopper

Compute capability

9.0

FP32-rekenkracht

≈ 48.3 TFLOPS

Geheugenbandbreedte

≈ 3.884 GB/s

Vermogenslimiet

600 W

Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.

Beschikbare configuraties

Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.

Actuele prijzen laden…

Waarvoor de H200 NVL geschikt is

Inferentie van grote taalmodellen

Draai grote modellen volledig in het geheugen zonder sharding, met gebruik van de 140 GB VRAM-capaciteit en ongeveer 3884 GB/s geheugenbandbreedte.

Fine-tuning en training van modellen

Train en pas deep learning-modellen aan met Hopper compute capability 9.0 en ruim GPU-geheugen voor grote batchgroottes.

Batchverwerking met hoge doorvoer

Verwerk enorme datasets en lange contextvensters efficiënt met vooraf geconfigureerde PyTorch/CUDA-, vLLM- of Ollama-templates.

Wetenschappelijke berekeningen en simulaties

Voer complexe datacentersimulaties uit die ongeveer 48.3 TFLOPS aan standaard floating-point-prestaties en veel ingebouwd geheugen vereisen.

Is dit de juiste GPU voor u?

Kies de H200 NVL wanneer uw belangrijkste knelpunt de VRAM-capaciteit en geheugenbandbreedte is, vooral voor het hosten van grote modellen op één kaart. Als u lichtere inferentie, standaard beeldgeneratie of ontwikkeltaken draait die geen 140 GB geheugen nodig hebben, is een kleinere werkstation- of consumenten-GPU een praktischere keuze.

Vergelijk met vergelijkbare GPU's

GPUVRAM per GPUArchitectuurFP32-rekenkrachtVanaf / uurDetails
H200 NVL140 GBHopper≈ 48.3 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—Details
H100 SXM80 GBHopper≈ 53.5 TFLOPS—Details
H100 PCIE80 GBHopper≈ 41 TFLOPS—Details

Veelgestelde vragen

Waarom kiest u de H200 NVL in plaats van een standaard Hopper-GPU?

De H200 NVL biedt 140 GB VRAM en ongeveer 3884 GB/s geheugenbandbreedte, meer dan de geheugencapaciteit en bandbreedte van eerdere Hopper-kaarten. Hierdoor passen grotere modellen en contextvensters op één GPU.

Is de H200 NVL geschikt voor LLM-serving met vLLM of Ollama?

Ja, de geheugenpool van 140 GB en de hoge geheugenbandbreedte maken hem zeer geschikt voor het serveren van grote taalmodellen. ONIE biedt kant-en-klare templates voor zowel vLLM als Ollama, zodat u snel kunt starten.

Welke softwareomgevingen en toegangsmethoden zijn beschikbaar?

Elke instantie bevat volledige SSH-toegang voor eigen configuratie. U kunt instanties ook starten met vooraf geïnstalleerde templates, waaronder PyTorch/CUDA, vLLM, Ollama en ComfyUI.

Hoe werkt de facturering van de H200 NVL op ONIE?

Instanties worden per uur gefactureerd. U betaalt alleen voor de tijd dat uw H200 NVL-instantie actief is.

Huur de H200 NVL per uur

Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.

Huur H200 NVL

Alle GPU's →