NVIDIA H100 SXM GPU bérlése óránként
Az NVIDIA H100 SXM Hopper architektúrára épülő adatközponti GPU, 80 GB VRAM-mal és 700 W-os fogyasztási kerettel. Körülbelül 53.5 TFLOPS standard lebegőpontos számítási teljesítményt és körülbelül 2869 GB/s memória-sávszélességet biztosít, és támogatja a 9.0-s CUDA számítási képességet. Bérelje ki a ONIE szolgáltatásánál óradíjas elszámolással, teljes SSH-hozzáféréssel és PyTorch/CUDA, vLLM, Ollama, valamint ComfyUI használatra kész sablonokkal.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a H100 SXM
Nagy nyelvi modellek következtetése
Telepítsen éles környezetbe nagy teljesítményigényű nyelvi modelleket a 80 GB VRAM és a körülbelül 2869 GB/s memória-sávszélesség kihasználásával, vLLM- vagy Ollama-sablonokkal.
Mélytanulási finomhangolás
Tanítson és finomhangoljon neurális hálózatokat a Hopper architektúra és a 9.0-s CUDA számítási képesség használatával, előre konfigurált PyTorch/CUDA-környezetekben.
Nagy áteresztőképességű kötegelt feldolgozás
Futtasson intenzív adatfeldolgozási és szimulációs feladatokat, amelyek előnyt kovácsolnak a 700 W-os adatközponti kialakítás körülbelül 53.5 TFLOPS számítási teljesítményéből.
Nagy erőforrásigényű generatív médiamunkafolyamatok
Futtasson összetett ComfyUI-folyamatokat és diffúziós modelleket nagy kötegméretekkel, amelyek kényelmesen elférnek a 80 GB-os memóriában.
Ez a megfelelő GPU Önnek?
Akkor válassza a H100 SXM-et, ha a tanítási vagy következtetési feladataihoz 80 GB nagy sávszélességű adatközponti memóriára és a Hopper architektúra szolgáltatásaira van szükség. Könnyű fejlesztéshez vagy kisebb modellekhez egy kisebb munkaállomás-GPU vagy fogyasztói GPU praktikusabb választás lehet, ha viszont egyetlen példányon nem fér el a teljes modell 80 GB VRAM-ban, egy újabb vagy nagyobb kapacitású adatközponti GPU lehet a megfelelőbb.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Alkalmas a H100 SXM LLM-ek finomhangolására és következtetésre?
Igen, a 80 GB VRAM és a körülbelül 2869 GB/s memória-sávszélesség egyaránt alkalmassá teszi nagy nyelvi modellek kiszolgálására és finomhangolására. A ONIE szolgáltatásánál azonnal elkezdheti a munkát a vLLM-, Ollama- vagy PyTorch/CUDA-használatra kész sablonokkal.
Hogyan viszonyul az SXM változat az alacsonyabb fogyasztású adatközponti vagy munkaállomás-GPU-khoz?
A H100 SXM 700 W-os termikus tervezési teljesítménnyel működik, így nagyobb számítási teljesítményt és memória-sávszélességet képes fenntartani, mint a PCIe adatközponti változatok vagy a munkaállomás-kártyák. Ha a feladatai nem használják ki a körülbelül 53.5 TFLOPS számítási teljesítményt vagy a 80 GB memóriát, egy kisebb GPU is elegendő lehet.
Milyen szoftverkompatibilitást biztosít a 9.0-s CUDA számítási képesség?
A 9.0-s számítási képesség az NVIDIA Hopper architektúra utasításainak és szolgáltatásainak hardveres támogatását jelzi. Előre konfigurált PyTorch/CUDA-sablonjaink készen állnak a hardver használatára, így nincs szükség kézi illesztőprogram-beállításra.
Hogyan működik a számlázás és a példányokhoz való hozzáférés a ONIE szolgáltatásánál?
A példányok bérlésük időtartama alatt óradíj alapján kerülnek számlázásra. Az üzembe helyezést követően közvetlenül csatlakozhat a környezetéhez SSH-n keresztül, vagy használhatja az előre telepített eszközöket, például a ComfyUI-t.
Bérelje a H100 SXM-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
H100 SXM bérlése