NVIDIA H200 NVL GPU bérlése óránként
Az NVIDIA H200 NVL Hopper architektúrára épülő adatközponti GPU, amelyet memóriaigényes munkaterhelésekhez terveztek. 140 GB VRAM-mal és körülbelül 3884 GB/s memória-sávszélességgel rendelkezik. 600 W-os fogyasztási keret mellett működik, támogatja a 9.0-s számítási képességet, és körülbelül 48.3 TFLOPS hagyományos lebegőpontos számítási teljesítményt nyújt. Ezt a processzort a(z) ONIE platformján óránkénti számlázással, közvetlen SSH-hozzáféréssel és előre konfigurált sablonokkal telepítheti.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a H200 NVL
Nagy nyelvi modellek következtetése
Futtasson nagy modelleket memóriában, particionálás nélkül, kihasználva a 140 GB VRAM-kapacitást és a körülbelül 3884 GB/s memória-sávszélességet.
Modellek finomhangolása és tanítása
Tanítson és adaptáljon mélytanulási modelleket a Hopper 9.0-s számítási képességével és a nagy kötegméretekhez elegendő GPU-memóriával.
Nagy áteresztőképességű kötegelt feldolgozás
Dolgozzon fel hatékonyan hatalmas adathalmazokat és hosszú kontextusablakokat az előre konfigurált PyTorch/CUDA, vLLM vagy Ollama sablonokkal.
Tudományos számítások és szimulációk
Futtasson összetett adatközponti szimulációkat, amelyek körülbelül 48.3 TFLOPS hagyományos lebegőpontos teljesítményt és jelentős fedélzeti memóriát igényelnek.
Ez a megfelelő GPU Önnek?
A H200 NVL akkor jó választás, ha elsősorban a VRAM-kapacitás vagy a memória-sávszélesség korlátozza, különösen, ha nagy modelleket szeretne egyetlen kártyán futtatni. Könnyebb következtetési feladatokhoz, általános képgeneráláshoz vagy olyan fejlesztési munkákhoz, amelyek nem igényelnek 140 GB memóriát, praktikusabb választás egy kisebb munkaállomás-GPU vagy fogyasztói GPU.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Miért érdemes a H200 NVL-t választani egy hagyományos Hopper GPU helyett?
A H200 NVL 140 GB VRAM-mal és körülbelül 3884 GB/s memória-sávszélességgel rendelkezik, ami meghaladja a korábbi Hopper-generációs kártyák memóriakapacitását és sávszélességét. Így nagyobb modellek és kontextusablakok is elférnek egyetlen GPU-n.
Alkalmas a H200 NVL LLM-ek vLLM-mel vagy Ollamával történő kiszolgálására?
Igen, a 140 GB memóriakapacitás és a nagy memória-sávszélesség kiválóan alkalmassá teszi nagy nyelvi modellek kiszolgálására. A(z) ONIE előre konfigurált vLLM- és Ollama-sablonokat is kínál, amelyekkel gyorsan elindulhat.
Milyen szoftverkörnyezetek és hozzáférési módok érhetők el?
Minden példány teljes SSH-hozzáférést biztosít az egyéni konfiguráláshoz. Előre telepített sablonokkal is indíthat példányokat, többek között PyTorch/CUDA, vLLM, Ollama és ComfyUI környezetekkel.
Hogyan történik a H200 NVL számlázása a(z) ONIE platformján?
A példányok számlázása óránként történik. Csak arra az időre kell fizetnie, amíg a H200 NVL-példánya aktív.
Bérelje a H200 NVL-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
H200 NVL bérlése