Prenájom GPU NVIDIA H200 NVL po hodinách
NVIDIA H200 NVL je dátacentrová GPU s architektúrou Hopper, navrhnutá na úlohy náročné na pamäť. Ponúka 140 GB VRAM a priepustnosť pamäte približne 3884 GB/s. Má príkon 600 W, podporuje výpočtovú schopnosť 9.0 a poskytuje štandardný výkon výpočtov s pohyblivou rádovou čiarkou približne 48.3 TFLOPS. Tento procesor môžete nasadiť na ONIE s hodinovou fakturáciou, priamym prístupom cez SSH a pripravenými šablónami.
Špecifikácie
VRAM na jedno GPU
Architektúra
Výpočtová schopnosť
Výpočtový výkon FP32
Šírka pásma pamäte
Limit príkonu
Hodnoty uvádza poskytovateľ infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže podľa stroja líšiť.
Dostupné konfigurácie
Aktuálna dostupnosť a ceny, priebežne aktualizované. Konečná cena sa potvrdí pred objednávkou.
Načítavajú sa aktuálne ceny…
Na čo sa H200 NVL hodí
Inferencia veľkých jazykových modelov
Spúšťajte veľké modely v pamäti bez rozdelenia na časti a využite kapacitu 140 GB VRAM a priepustnosť pamäte približne 3884 GB/s.
Doladenie a trénovanie modelov
Trénujte a prispôsobujte modely hlbokého učenia s využitím výpočtovej schopnosti Hopper 9.0 a veľkej pamäte GPU, ktorá umožňuje používať veľké dávky.
Dávkové spracovanie s vysokou priepustnosťou
Efektívne spracúvajte rozsiahle súbory údajov a dlhé kontextové okná pomocou predkonfigurovaných šablón PyTorch/CUDA, vLLM alebo Ollama.
Vedecké výpočty a simulácie
Spúšťajte komplexné dátacentrové simulácie, ktoré vyžadujú štandardný výkon výpočtov s pohyblivou rádovou čiarkou približne 48.3 TFLOPS a veľkú lokálnu pamäť.
Je to pre vás správne GPU?
H200 NVL si vyberte, ak vás najviac obmedzuje kapacita VRAM a priepustnosť pamäte, najmä ak chcete hostovať veľké modely na jednej karte. Ak spúšťate menej náročnú inferenciu, štandardné generovanie obrázkov alebo vývojové úlohy, ktoré nevyžadujú 140 GB pamäte, praktickejšou voľbou je menšia pracovná stanica alebo spotrebiteľská GPU.
Porovnajte s podobnými GPU
| GPU | VRAM na jedno GPU | Architektúra | Výpočtový výkon FP32 | Od / hodina | Podrobnosti |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Podrobnosti |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Podrobnosti |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Podrobnosti |
Často kladené otázky
Prečo si vybrať H200 NVL namiesto štandardnej GPU Hopper?
H200 NVL ponúka 140 GB VRAM a priepustnosť pamäte približne 3884 GB/s, čo prevyšuje kapacitu a priepustnosť pamäte starších kariet generácie Hopper. Vďaka tomu sa na jednu GPU zmestia väčšie modely a kontextové okná.
Je H200 NVL vhodná na poskytovanie LLM cez vLLM alebo Ollama?
Áno, 140 GB pamäte a vysoká priepustnosť pamäte z nej robia vhodnú GPU na poskytovanie veľkých jazykových modelov. ONIE ponúka pripravené šablóny pre vLLM aj Ollama, aby ste mohli začať rýchlo.
Aké softvérové prostredia a spôsoby prístupu sú k dispozícii?
Každá inštancia zahŕňa plný prístup cez SSH na vlastnú konfiguráciu. Inštancie môžete spustiť aj s predinštalovanými šablónami vrátane PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Ako funguje fakturácia H200 NVL na ONIE?
Inštancie sa fakturujú podľa počtu hodín. Platíte iba za čas, počas ktorého je vaša inštancia H200 NVL aktívna.
Prenajmite si H200 NVL na hodiny
Vytvorte si účet, vyberte konfiguráciu a pripojte sa cez SSH. Fakturácia sa zastaví, keď GPU vymažete.
Prenajať H200 NVL