Lej en NVIDIA H100 PCIE GPU pr. time
NVIDIA H100 PCIE er en datacenter-GPU baseret på Hopper-arkitekturen, bygget til krævende deep learning- og videnskabelige beregningsopgaver. Den tilbyder 80 GB VRAM, ca. 1760 GB/s hukommelsesbåndbredde og ca. 41.0 TFLOPS standard flydende-komma-beregning inden for et effektbudget på 350 W. Hos ONIE kan du udrulle denne beregningskapacitet med compute capability 9.0 med timebaseret fakturering og fuld SSH-adgang.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad H100 PCIE er god til
Inferens med store sprogmodeller
Kør store sprogmodeller i hukommelsen med de 80 GB VRAM og høj hukommelsesbåndbredde sammen med forudkonfigurerede vLLM- eller Ollama-skabeloner.
Finjustering og træning af modeller
Træn eller finjuster dybe neurale netværk med Hopper-arkitekturen og klare PyTorch/CUDA-miljøer.
Batch-billedgenerering
Kør diffusionspipelines med høj gennemstrømning og komplekse ComfyUI-workflows, der drager fordel af stor hukommelseskapacitet.
Datavidenskab og simulering
Udfør beregningskrævende simuleringer og databehandlingsopgaver med ca. 41.0 TFLOPS standard flydende-komma-ydelse og ca. 1760 GB/s hukommelsesgennemstrømning.
Er det den rigtige GPU til dig?
Vælg H100 PCIE, når dine workloads kræver 80 GB VRAM, hukommelsesbåndbredde i datacenterklasse og Hopper compute capability 9.0-funktioner. Til lettere inferens eller mindre modeller er en workstation- eller forbruger-GPU med mindre VRAM mere økonomisk, mens ekstreme gennemstrømningskrav kan begrunde en SXM-baseret datacentervariant.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er H100 PCIE egnet til finjustering og inferens af LLM'er?
Ja, de 80 GB VRAM og ca. 1760 GB/s hukommelsesbåndbredde gør den velegnet til at hoste og træne store modeller. Du kan starte med det samme ved at bruge forudkonfigurerede skabeloner til PyTorch/CUDA, vLLM eller Ollama.
Hvordan sammenlignes H100 PCIE med SXM eller mindre workstation-GPU'er?
H100 PCIE har en TDP på 350 W, hvilket giver lavere strømforbrug og standard PCIe-kompatibilitet sammenlignet med SXM-datacentervarianter med højere wattforbrug. Sammenlignet med workstation- eller forbrugerkort giver den markant mere VRAM med 80 GB og højere hukommelsesbåndbredde.
Hvilken softwarestøtte og compute capability har denne GPU?
Da den er baseret på NVIDIA Hopper-arkitekturen, understøtter H100 PCIE CUDA compute capability 9.0. Du kan starte instanser med klare skabeloner, herunder PyTorch/CUDA og ComfyUI, eller konfigurere din egen stak via SSH-adgang.
Hvordan fungerer faktureringen for H100 PCIE-instanser hos ONIE?
Instanser hos ONIE bruger ligetil timebaseret fakturering, så du kun betaler for den tid, din GPU er aktiv. Fuld SSH-adgang er inkluderet i hver udrulning.
Lej H100 PCIE per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej H100 PCIE