Lei NVIDIA H100 PCIE GPU per time
NVIDIA H100 PCIE er en datasenter-GPU med Hopper-arkitektur, laget for krevende dyplæring og vitenskapelige beregninger. Den gir 80 GB VRAM, omtrent 1760 GB/s minnebåndbredde og omtrent 41.0 TFLOPS standard flyttallsberegning innenfor en effektramme på 350 W. Hos ONIE kan du ta i bruk denne beregningskapasiteten med compute capability 9.0-akselerator, med timebasert fakturering og full SSH-tilgang.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva H100 PCIE er god til
Inferens med store språkmodeller
Kjør store språkmodeller i minnet ved hjelp av 80 GB VRAM og høy minnebåndbredde, sammen med forhåndskonfigurerte vLLM- eller Ollama-maler.
Finjustering og trening av modeller
Tren eller finjuster dype nevrale nettverk med Hopper-arkitekturen og klare PyTorch/CUDA-miljøer.
Batch-bildegenerering
Kjør diffusjonspipelines med høy gjennomstrømning og avanserte ComfyUI-arbeidsflyter som drar nytte av stor minnekapasitet.
Datavitenskap og simulering
Kjør beregningskrevende simuleringer og databehandling med omtrent 41.0 TFLOPS standard flyttallsytelse og omtrent 1760 GB/s minnegjennomstrømning.
Er dette den riktige GPU-en for deg?
Velg H100 PCIE når arbeidslastene dine krever 80 GB VRAM, minnebåndbredde i datasenterklasse og funksjoner for Hopper compute capability 9.0. For lettere inferens eller mindre modeller er en workstation- eller forbruker-GPU med mindre VRAM mer økonomisk, mens ekstreme gjennomstrømningskrav kan tilsi en SXM-basert datasentervariant.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er H100 PCIE egnet for finjustering og inferens av LLM-er?
Ja, 80 GB VRAM og omtrent 1760 GB/s minnebåndbredde gjør den godt egnet til å kjøre og trene store modeller. Du kan starte med én gang ved å bruke forhåndskonfigurerte maler for PyTorch/CUDA, vLLM eller Ollama.
Hvordan sammenlignes H100 PCIE med SXM eller mindre workstation-GPU-er?
H100 PCIE har en TDP på 350 W, med lavere strømforbruk og standard PCIe-kompatibilitet sammenlignet med SXM-datasentervarianter med høyere effekt. Sammenlignet med workstation- eller forbrukerkort gir den betydelig mer VRAM, med 80 GB, og høyere minnebåndbredde.
Hvilken programvarestøtte og compute capability har denne GPU-en?
Siden den er basert på NVIDIA Hopper-arkitekturen, støtter H100 PCIE CUDA compute capability 9.0. Du kan starte instanser med klare maler, inkludert PyTorch/CUDA og ComfyUI, eller sette opp din egen stack via SSH-tilgang.
Hvordan fungerer fakturering for H100 PCIE-instanser hos ONIE?
Instanser hos ONIE har enkel timebasert fakturering, så du betaler bare for tiden GPU-en er aktiv. Full SSH-tilgang er inkludert i hvert oppsett.
Lei H100 PCIE per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei H100 PCIE