Lei NVIDIA H200 NVL GPU per time
NVIDIA H200 NVL er en datasenter-GPU med Hopper-arkitektur, laget for minneintensive arbeidsbelastninger. Den tilbyr 140 GB VRAM og en minnebåndbredde på omtrent 3884 GB/s. Den opererer innenfor en effektramme på 600 W, støtter compute capability 9.0 og leverer omtrent 48.3 TFLOPS standard flyttallsberegning. Du kan ta i bruk denne prosessoren på ONIE med timebasert fakturering, direkte SSH-tilgang og ferdige maler.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva H200 NVL er god til
Inferens med store språkmodeller
Kjør store modeller i minnet uten sharding, og dra nytte av 140 GB VRAM-kapasitet og omtrent 3884 GB/s minnebåndbredde.
Finjustering og trening av modeller
Tren og tilpass dyplæringsmodeller med Hopper compute capability 9.0 og romslig GPU-minne for store batch-størrelser.
Batch-prosessering med høy gjennomstrømning
Prosesser enorme datasett og lange kontekstvinduer effektivt med forhåndskonfigurerte PyTorch/CUDA-, vLLM- eller Ollama-maler.
Vitenskapelig beregning og simulering
Kjør komplekse datasimuleringer som krever omtrent 48.3 TFLOPS standard flyttallsytelse og betydelig innebygd minne.
Er dette den riktige GPU-en for deg?
Velg H200 NVL når den primære flaskehalsen din er VRAM-kapasitet og minnebåndbredde, særlig for å kjøre store modeller på ett enkelt kort. Hvis du kjører lettere inferens, vanlig bildegenerering eller utviklingsoppgaver som ikke krever 140 GB minne, er en mindre arbeidsstasjon- eller forbruker-GPU et mer praktisk valg.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Hvorfor velge H200 NVL fremfor en standard Hopper-GPU?
H200 NVL gir 140 GB VRAM og omtrent 3884 GB/s minnebåndbredde, som er høyere enn minnekapasiteten og båndbredden til tidligere Hopper-kort. Dette gjør at større modeller og kontekstvinduer kan få plass på én GPU.
Er H200 NVL egnet for LLM-servering med vLLM eller Ollama?
Ja, minnepoolen på 140 GB og den høye minnebåndbredden gjør kortet godt egnet for servering av store språkmodeller. ONIE tilbyr ferdige maler for både vLLM og Ollama, slik at du raskt kan komme i gang.
Hvilke programvaremiljøer og tilgangsmetoder finnes?
Hver instans inkluderer full SSH-tilgang for egen konfigurasjon. Du kan også starte instanser med forhåndsinstallerte maler, blant annet PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Hvordan fungerer fakturering for H200 NVL på ONIE?
Instanser faktureres per time. Du betaler kun for den tiden H200 NVL-instansen din er aktiv.
Lei H200 NVL per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei H200 NVL