Pronájem GPU NVIDIA H100 NVL po hodinách
NVIDIA H100 NVL je datacentrová GPU s architekturou Hopper, vybavená 94 GB VRAM a výpočetní schopností 9.0. Nabízí přibližně 48.3 TFLOPS výkonu v jednoduché přesnosti a přibližně 3381 GB/s šířky pásma paměti v rámci tepelného limitu 400 W. Pronajměte si H100 NVL na ONIE s fakturací po hodinách, přístupem přes SSH a připravenými šablonami pro PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Specifikace
VRAM na GPU
Architektura
Výpočetní schopnost
Výpočetní výkon FP32
Propustnost paměti
Limit příkonu
Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.
Dostupné konfigurace
Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.
Načítání aktuálních cen…
K čemu se H100 NVL hodí
Inference velkých jazykových modelů
Nasazujte modely s velkou kapacitou pomocí vLLM nebo Ollama s 94 GB VRAM a přibližně 3381 GB/s šířkou pásma paměti pro rychlé generování tokenů.
Dolaďování modelů hlubokého učení
Trénujte a dolaďujte neuronové sítě v PyTorch s využitím funkcí architektury Hopper a výpočetní schopnosti 9.0.
Generování obrázků ve vysokém rozlišení
Spouštějte složité workflow v ComfyUI a rozsáhlé difuzní pipeline plně v paměti bez odkládání do systémové RAM.
Vědecké výpočty a simulace
Provádějte paměťově náročné datacentrové úlohy, které využijí přibližně 48.3 TFLOPS výkonu v jednoduché přesnosti.
Hodí se pro vás tato GPU?
Zvolte H100 NVL, když vaše AI nebo výpočetní úlohy vyžadují více paměti, než nabízejí běžné datacentrové karty, až 94 GB VRAM. Pro lehkou inferenci a vývoj je vhodnější menší pracovní stanice nebo spotřební GPU, zatímco pokud vaše modely přesáhnou 94 GB, budete potřebovat více GPU nebo vyšší paměťovou úroveň.
Porovnat s podobnými GPU
| GPU | VRAM na GPU | Architektura | Výpočetní výkon FP32 | Od / hodinu | Podrobnosti |
|---|---|---|---|---|---|
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Podrobnosti |
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | Podrobnosti |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je H100 NVL vhodná pro inferenci a dolaďování LLM?
Ano, díky 94 GB VRAM a přibližně 3381 GB/s šířce pásma paměti je dobře vhodná pro provoz a dolaďování velkých jazykových modelů, které se nevejdou na menší datacentrové GPU.
Jak se H100 NVL porovnává se standardními variantami H100?
H100 NVL nabízí rozšířenou kapacitu VRAM 94 GB a výkonovou obálku 400 W, což poskytuje větší paměťovou rezervu oproti standardním datacentrovým konfiguracím Hopper.
Jaké softwarové šablony jsou na ONIE k dispozici pro tuto GPU?
H100 NVL můžete nasadit pomocí předkonfigurovaných šablon pro PyTorch/CUDA, vLLM, Ollama a ComfyUI, které všechny podporují výpočetní schopnost 9.0.
Jak funguje fakturace a přístup při pronájmu H100 NVL?
Instance na ONIE jsou účtovány po hodinách a poskytují přímý přístup přes SSH, takže můžete ihned spravovat své prostředí a workflow.
Pronajměte si H100 NVL po hodinách
Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.
Pronajmout H100 NVL