Lej en NVIDIA H200 NVL GPU pr. time
NVIDIA H200 NVL er en Hopper-arkitektur datacenter-GPU, bygget til hukommelseskrævende workloads, og tilbyder 140 GB VRAM og en hukommelsesbåndbredde på ca. 3884 GB/s. Den kører med et strømforbrug på 600 W, understøtter compute capability 9.0 og leverer ca. 48.3 TFLOPS standard flydende-punkt-beregning. Du kan deployere denne processor på ONIE med fakturering pr. time, direkte SSH-adgang og klar-til-brug-skabeloner.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad H200 NVL er god til
LLM-inferens
Kør store modeller i hukommelsen uden sharding, og udnyt den 140 GB store VRAM-kapacitet og ca. 3884 GB/s hukommelsesbåndbredde.
Finjustering og træning af modeller
Træn og tilpas deep learning-modeller med compute capability 9.0 og rummelig GPU-hukommelse til store batch-størrelser.
Batch-processering med høj gennemløb
Behandl enorme datasæt og lange kontekstvinduer effektivt med forkonfigurerede PyTorch/CUDA-, vLLM- eller Ollama-skabeloner.
Videnskabelig beregning og simulering
Kør komplekse datacentersimuleringer, der kræver ca. 48.3 TFLOPS standard flydende-punkt-ydelse og betydelig indbygget hukommelse.
Er det den rigtige GPU til dig?
Vælg H200 NVL, når din primære flaskehals er VRAM-kapacitet og hukommelsesbåndbredde, især til hosting af store modeller på et enkelt kort. Hvis du kører lettere inferens, standard billedgenerering eller udviklingsopgaver, der ikke kræver 140 GB hukommelse, er en mindre workstation- eller forbrugs-GPU et mere praktisk valg.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Hvorfor vælge H200 NVL frem for en standard Hopper-GPU?
H200 NVL tilbyder 140 GB VRAM og ca. 3884 GB/s hukommelsesbåndbredde, hvilket er højere end hukommelseskapaciteten og båndbredden på tidligere Hopper-generationens kort. Det gør det muligt at få større modeller og kontekstvinduer til at passe på en enkelt GPU.
Er H200 NVL egnet til LLM-serving med vLLM eller Ollama?
Ja, hukommelsespuljen på 140 GB og den høje hukommelsesbåndbredde gør den velegnet til at servere store sprogmodeller. ONIE tilbyder klar-til-brug-skabeloner til både vLLM og Ollama, så du hurtigt kan komme i gang.
Hvilke softwaremiljøer og adgangsmetoder er tilgængelige?
Hver instans inkluderer fuld SSH-adgang til egen konfiguration. Du kan også starte instanser med forinstallerede skabeloner, herunder PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Hvordan fungerer fakturering for H200 NVL på ONIE?
Instanser faktureres pr. time. Du betaler kun for den tid, din H200 NVL-instans er aktiv.
Lej H200 NVL per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej H200 NVL