Pronájem GPU NVIDIA H200 NVL po hodinách
Datacentrální GPU NVIDIA H200 NVL s architekturou Hopper je určeno pro paměťově náročné úlohy. Nabízí 140 GB VRAM a propustnost paměti přibližně 3884 GB/s. Pracuje s příkonem 600 W, podporuje compute capability 9.0 a poskytuje přibližně 48,3 TFLOPS standardního výkonu ve výpočtech s plovoucí desetinnou čárkou. Tento procesor můžete nasadit na ONIE s fakturací za hodinu, přímým přístupem přes SSH a připravenými šablonami.
Specifikace
VRAM na GPU
Architektura
Výpočetní schopnost
Výpočetní výkon FP32
Propustnost paměti
Limit příkonu
Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.
Dostupné konfigurace
Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.
Načítání aktuálních cen…
K čemu se H200 NVL hodí
Inference velkých jazykových modelů (LLM)
Spouštějte velké modely v paměti bez rozdělování mezi více GPU a využijte kapacitu 140 GB VRAM a propustnost paměti přibližně 3884 GB/s.
Dolaďování a trénink modelů
Trénujte a přizpůsobujte modely hlubokého učení s využitím architektury Hopper s compute capability 9.0 a rozsáhlou pamětí GPU pro velké velikosti batchů.
Vysoce výkonné dávkové zpracování
Efektivně zpracovávejte masivní datové sady a dlouhá kontextová okna pomocí předkonfigurovaných šablon PyTorch/CUDA, vLLM nebo Ollama.
Vědecké výpočty a simulace
Provádějte náročné datacentrální simulace, které vyžadují přibližně 48,3 TFLOPS standardního výkonu ve výpočtech s plovoucí desetinnou čárkou a značnou vestavěnou pamětí.
Hodí se pro vás tato GPU?
Zvolte H200 NVL, pokud je vaším hlavním omezením kapacita VRAM a propustnost paměti, zejména při hostování velkých modelů na jedné kartě. Pokud provozujete lehčí inference, běžné generování obrázků nebo vývojové úlohy, které nevyžadují 140 GB paměti, je praktičtější menší pracovní stanice nebo spotřebitelská GPU.
Porovnat s podobnými GPU
| GPU | VRAM na GPU | Architektura | Výpočetní výkon FP32 | Od / hodinu | Podrobnosti |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Podrobnosti |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Podrobnosti |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Podrobnosti |
Často kladené otázky
Proč zvolit H200 NVL místo standardní GPU architektury Hopper?
H200 NVL nabízí 140 GB VRAM a propustnost paměti přibližně 3884 GB/s, což je více než kapacita a propustnost paměti starších karet generace Hopper. Díky tomu se na jednu GPU vejdou větší modely a delší kontextová okna.
Je H200 NVL vhodné pro obsluhu LLM pomocí vLLM nebo Ollama?
Ano, paměťový prostor 140 GB a vysoká propustnost paměti jej činí vhodným pro obsluhu velkých jazykových modelů. Na ONIE jsou k dispozici připravené šablony pro vLLM i Ollama, které vám pomohou rychle začít.
Jaká softwarová prostředí a způsoby přístupu jsou k dispozici?
Každá instance obsahuje plný přístup přes SSH pro vlastní konfiguraci. Instance můžete také spustit s předinstalovanými šablonami, včetně PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Jak funguje fakturace H200 NVL na ONIE?
Instance se účtují za každou hodinu. Platíte pouze za dobu, po kterou je vaše instance H200 NVL aktivní.
Pronajměte si H200 NVL po hodinách
Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.
Pronajmout H200 NVL