NVIDIA H100 NVL GPU bérlése óránként
Az NVIDIA H100 NVL Hopper architektúrára épülő adatközponti GPU, 94 GB VRAM-mal és 9.0-s számítási képességgel. 400 W-os fogyasztási keret mellett körülbelül 48.3 TFLOPS egypontosságú teljesítményt és körülbelül 3381 GB/s memória-sávszélességet biztosít. Bérelje ki a H100 NVL-t a ONIE platformon óránkénti számlázással, SSH-hozzáféréssel és előre elkészített PyTorch/CUDA-, vLLM-, Ollama- és ComfyUI-sablonokkal.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a H100 NVL
Nagy nyelvi modellek inferenciája
Telepítsen nagy kapacitású nyelvi modelleket vLLM vagy Ollama használatával. A 94 GB VRAM és a körülbelül 3381 GB/s memória-sávszélesség gyors token-előállítást tesz lehetővé.
Mélytanulási modellek finomhangolása
Tanítson és hangoljon finomra neurális hálózatokat PyTorch használatával, a Hopper architektúra képességeire és a 9.0-s számítási képességre támaszkodva.
Nagy felbontású képgenerálás
Futtasson összetett ComfyUI-munkafolyamatokat és nagy diffúziós folyamatokat a memóriában, a rendszermemória igénybevétele nélkül.
Tudományos számítások és szimulációk
Futtasson memóriaigényes adatközponti munkaterheléseket, amelyek hasznosítani tudják a körülbelül 48.3 TFLOPS egypontosságú számítási teljesítményt.
Ez a megfelelő GPU Önnek?
Akkor válassza a H100 NVL-t, ha az AI- vagy számítási feladatokhoz a szabványos adatközponti kártyáknál több, akár 94 GB VRAM-ra van szükség. Egyszerűbb inferenciához és fejlesztéshez jobb választás lehet egy kisebb munkaállomás-GPU vagy fogyasztói GPU, míg a 94 GB-nál nagyobb memóriát igénylő modellekhez több GPU-ból álló rendszerre vagy nagyobb memóriájú kategóriára van szükség.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Alkalmas a H100 NVL LLM-inferenciára és finomhangolásra?
Igen. A 94 GB VRAM és a körülbelül 3381 GB/s memória-sávszélesség révén kiválóan alkalmas olyan nagy nyelvi modellek kiszolgálására és finomhangolására, amelyek nem férnek el a kisebb adatközponti GPU-kon.
Hogyan viszonyul a H100 NVL a szabványos H100-változatokhoz?
A H100 NVL nagyobb, 94 GB-os VRAM-kapacitást és 400 W-os fogyasztási keretet kínál, így a szabványos Hopper adatközponti konfigurációkhoz képest több memória áll rendelkezésre.
Milyen szoftversablonok érhetők el ehhez a GPU-hoz a ONIE platformon?
A H100 NVL előre konfigurált PyTorch/CUDA-, vLLM-, Ollama- és ComfyUI-sablonokkal telepíthető; mindegyik támogatja a 9.0-s számítási képességet.
Hogyan működik a számlázás és a hozzáférés a H100 NVL bérlésekor?
A ONIE platformon az instance-ok számlázása óránként történik, és közvetlen SSH-hozzáférést biztosítanak, így azonnal kezelheti a környezetét és a munkafolyamatait.
Bérelje a H100 NVL-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
H100 NVL bérlése