Lej en NVIDIA H100 NVL GPU pr. time
NVIDIA H100 NVL er et datacenter-GPU med Hopper-arkitektur, udstyret med 94 GB VRAM og compute capability 9.0. Den leverer ca. 48,3 TFLOPS enkeltpræcisionsydelse og ca. 3381 GB/s hukommelsesbåndbredde inden for en termisk ramme på 400 W. Lej H100 NVL på ONIE med timebaseret fakturering, SSH-adgang og klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad H100 NVL er god til
Inferens med store sprogmodeller
Kør store sprogmodeller med vLLM eller Ollama med 94 GB VRAM og ca. 3381 GB/s hukommelsesbåndbredde til hurtig tokengenerering.
Finjustering af deep learning-modeller
Træn og finjuster neurale netværk i PyTorch med Hopper-arkitekturens funktioner og compute capability 9.0.
Billedgenerering i høj opløsning
Kør komplekse ComfyUI-workflows og store diffusionspipelines i hukommelsen uden at aflaste til systemets RAM.
Videnskabelig beregning og simulering
Kør hukommelseskrævende datacenter-workloads, der drager fordel af ca. 48,3 TFLOPS enkeltpræcisionsydelse.
Er det den rigtige GPU til dig?
Vælg H100 NVL, når dine AI- eller beregningsopgaver kræver mere hukommelse, end standard datacenter-kort tilbyder, op til 94 GB VRAM. Et mindre workstation- eller forbrugs-GPU er et bedre valg til let inferens og udvikling, mens en multi-GPU-opsætning eller en større hukommelsesklasse er nødvendig, hvis dine modeller overstiger 94 GB.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er H100 NVL egnet til LLM-inferens og finjustering?
Ja, dens 94 GB VRAM og ca. 3381 GB/s hukommelsesbåndbredde gør den godt egnet til at betjene og finjustere store sprogmodeller, som ikke kan være på mindre datacenter-GPU'er.
Hvordan sammenlignes H100 NVL med standard H100-varianter?
H100 NVL tilbyder en udvidet VRAM-kapacitet på 94 GB og en effektramme på 400 W, hvilket giver ekstra hukommelsesplads sammenlignet med standard Hopper-datacenterkonfigurationer.
Hvilke softwareskabeloner er tilgængelige på ONIE til denne GPU?
Du kan implementere H100 NVL med forudkonfigurerede skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI, som alle understøtter compute capability 9.0.
Hvordan fungerer fakturering og adgang, når du lejer H100 NVL?
Instanser på ONIE faktureres pr. time og giver direkte SSH-adgang, så du straks kan administrere dit miljø og dine workflows.
Lej H100 NVL per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej H100 NVL