GPU Cloud · NVIDIA · Hopper

Pronájem GPU NVIDIA H100 SXM po hodinách

NVIDIA H100 SXM je datacentrová grafická karta s architekturou Hopper, s 80 GB VRAM a výkonovým limitem 700 W. Nabízí přibližně 53,5 TFLOPS standardního výpočetního výkonu s plovoucí desetinnou čárkou, propustnost paměti přibližně 2869 GB/s a podporuje CUDA s výpočetní schopností 9.0. Pronajměte si ji na ONIE s fakturací za hodiny, plným přístupem přes SSH a připravenými šablonami pro PyTorch/CUDA, vLLM, Ollama a ComfyUI.

Specifikace

VRAM na GPU

80 GB

Architektura

NVIDIA Hopper

Výpočetní schopnost

9.0

Výpočetní výkon FP32

≈ 53.5 TFLOPS

Propustnost paměti

≈ 2 869 GB/s

Limit příkonu

700 W

Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.

Dostupné konfigurace

Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.

Načítání aktuálních cen…

K čemu se H100 SXM hodí

Inference velkých jazykových modelů

Nasaďte náročné jazykové modely do produkce s využitím kapacity 80 GB VRAM a propustnosti paměti přibližně 2869 GB/s pomocí šablon vLLM nebo Ollama.

Doladění modelů hlubokého učení

Trénujte a dolaďujte neuronové sítě s využitím architektury Hopper a výpočetní schopnosti 9.0 v předkonfigurovaných prostředích PyTorch/CUDA.

Dávkové zpracování s vysokou propustností

Spouštějte náročné úlohy zpracování dat a simulací, které těží z výpočetního výkonu přibližně 53,5 TFLOPS v datacentrovém provedení s příkonem 700 W.

Náročné pracovní postupy generativních médií

Spouštějte složité pipeline v ComfyUI a difuzní modely s velkými dávkami, které se pohodlně vejdou do paměťového fondu 80 GB.

Hodí se pro vás tato GPU?

Volte H100 SXM, když vaše trénovací nebo inferenční úlohy vyžadují 80 GB vysokorychlostní datacentrové paměti a funkce architektury Hopper. Pro lehký vývoj nebo menší modely je praktičtější menší pracovní nebo spotřebitelská grafická karta. Pokud se celý model nevejde do 80 GB VRAM jedné instance, je vhodnější novější nebo kapacitnější datacentrová grafická karta.

Porovnat s podobnými GPU

GPUVRAM na GPUArchitekturaVýpočetní výkon FP32Od / hodinuPodrobnosti
H100 SXM80 GBHopper≈ 53.5 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—Podrobnosti
H100 PCIE80 GBHopper≈ 41 TFLOPS—Podrobnosti
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—Podrobnosti

Často kladené otázky

Je H100 SXM vhodná pro doladění a inferenci LLM?

Ano, díky 80 GB VRAM a propustnosti paměti přibližně 2869 GB/s je ideální pro obsluhu i doladění velkých jazykových modelů. Na ONIE můžete začít okamžitě s připravenými šablonami pro vLLM, Ollama nebo PyTorch/CUDA.

Jak se varianta SXM srovnává s datacentrovými nebo pracovními grafickými kartami s nižším příkonem?

H100 SXM pracuje s výkonovým limitem 700 W, což jí umožňuje udržet vyšší výpočetní výkon a propustnost paměti než varianty PCIe datacentrových karet nebo pracovní grafické karty. Pokud vaše úloha nevyužije přibližně 53,5 TFLOPS výpočetního výkonu ani 80 GB paměti, může postačit menší grafická karta.

Jakou softwarovou kompatibilitu poskytuje výpočetní schopnost 9.0 v CUDA?

Výpočetní schopnost 9.0 znamená hardwarovou podporu instrukcí a funkcí architektury NVIDIA Hopper. Naše předkonfigurované šablony PyTorch/CUDA jsou připravené tento hardware využít bez ručního nastavení ovladačů.

Jak funguje fakturace a přístup k instancím na ONIE?

Instance se účtují za hodiny po dobu pronájmu. Po nasazení se můžete k prostředí připojit přímo přes SSH nebo pracovat s předinstalovanými nástroji, jako je ComfyUI.

Pronajměte si H100 SXM po hodinách

Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.

Pronajmout H100 SXM

Všechna GPU →