Lej en NVIDIA H100 SXM GPU pr. time
NVIDIA H100 SXM er en datacenter-GPU med Hopper-arkitektur, udstyret med 80 GB VRAM og en effektramme på 700 W. Den leverer ca. 53,5 TFLOPS standard flydende-komma-beregning og en hukommelsesbåndbredde på ca. 2869 GB/s, og den understøtter CUDA compute capability 9.0. Lej den på ONIE med timebaseret fakturering, fuld SSH-adgang og færdige skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad H100 SXM er god til
Inferens af store sprogmodeller
Sæt krævende sprogmodeller i produktion ved hjælp af de 80 GB VRAM-kapacitet og ca. 2869 GB/s hukommelsesbåndbredde via vLLM- eller Ollama-skabeloner.
Finjustering af deep learning-modeller
Træn og finjuster neurale netværk med Hopper-arkitekturen og CUDA compute capability 9.0 i forudkonfigurerede PyTorch/CUDA-miljøer.
Batchbehandling med høj gennemstrømning
Kør intensive databehandlings- og simuleringsworkloads, der drager fordel af ca. 53,5 TFLOPS beregningsydelse i en datacenter-formfaktor på 700 W.
Tunge workflows til generativ medieproduktion
Kør komplekse ComfyUI-pipelines og diffusionsmodeller med store batchstørrelser, der passer komfortabelt i den 80 GB store hukommelse.
Er det den rigtige GPU til dig?
Vælg H100 SXM, når dine trænings- eller inferens-workloads kræver 80 GB højbåndbredde-hukommelse til datacentre og Hopper-arkitekturens funktioner. En mindre workstation- eller forbrugs-GPU er et mere praktisk valg til let udvikling eller små modeller, mens en nyere GPU med større kapacitet til datacentre er at foretrække, hvis en enkelt instans ikke kan rumme hele din model i 80 GB VRAM.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er H100 SXM egnet til finjustering og inferens af LLM'er?
Ja, dens 80 GB VRAM og hukommelsesbåndbredde på ca. 2869 GB/s gør den velegnet til både servering og finjustering af store sprogmodeller. Du kan starte med det samme på ONIE med færdige skabeloner til vLLM, Ollama eller PyTorch/CUDA.
Hvordan sammenlignes SXM-varianten med GPU'er til datacentre eller workstations med lavere effekt?
H100 SXM kører med en termisk designeffekt på 700 W, hvilket gør det muligt at opretholde højere beregningsydelse og hukommelsesbåndbredde end PCIe-varianter til datacentre eller workstation-kort. Hvis din workload ikke udnytter de ca. 53,5 TFLOPS beregningsydelse eller de 80 GB hukommelse, kan en mindre GPU være tilstrækkelig.
Hvilken softwarekompatibilitet giver CUDA compute capability 9.0?
Compute capability 9.0 angiver hardwareunderstøttelse af NVIDIA Hopper-arkitekturens instruktioner og funktioner. Vores forudkonfigurerede PyTorch/CUDA-skabeloner er klar til at udnytte denne hardware uden manuel driveropsætning.
Hvordan fungerer fakturering og instansadgang på ONIE?
Instanser faktureres timebaseret for hele din lejeperiode. Når den er udrullet, kan du oprette forbindelse direkte til dit miljø via SSH-adgang eller arbejde med forudinstallerede værktøjer som ComfyUI.
Lej H100 SXM per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej H100 SXM