GPU Cloud · NVIDIA · Hopper

NVIDIA H100 PCIE GPU bérlése óránként

Az NVIDIA H100 PCIE Hopper architektúrára épülő adatközponti GPU, amelyet nagy igényű mélytanulási és tudományos számítási feladatokra terveztek. 80 GB VRAM-ot, körülbelül 1760 GB/s memória-sávszélességet és körülbelül 41.0 TFLOPS szabványos lebegőpontos számítási teljesítményt kínál 350 W-os fogyasztási keret mellett. A(z) ONIE platformon ezt a 9.0-s számítási képességű gyorsítót óradíjas elszámolással és teljes SSH-hozzáféréssel helyezheti üzembe.

Műszaki adatok

VRAM GPU-nként

80 GB

Architektúra

NVIDIA Hopper

Számítási képesség

9.0

FP32 számítási teljesítmény

≈ 41 TFLOPS

Memória-sávszélesség

≈ 1760 GB/s

Teljesítménykorlát

350 W

A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.

Elérhető konfigurációk

Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.

Élő árak betöltése…

Mire való a H100 PCIE

Nagy nyelvi modellek következtetése

Futtasson nagy nyelvi modelleket memóriában a 80 GB VRAM és a nagy memória-sávszélesség kihasználásával, előre konfigurált vLLM- vagy Ollama-sablonokkal.

Modellek finomhangolása és tanítása

Tanítson vagy finomhangoljon mély neurális hálózatokat a Hopper architektúrával és az előkészített PyTorch/CUDA-környezetekkel.

Kötegelt képgenerálás

Futtasson nagy áteresztőképességű diffúziós folyamatokat és összetett ComfyUI-munkafolyamatokat, amelyek kihasználják a jelentős memóriakapacitást.

Adattudomány és szimuláció

Hajtsanak végre számításigényes szimulációkat és adatfeldolgozási feladatokat körülbelül 41.0 TFLOPS szabványos lebegőpontos teljesítménnyel és körülbelül 1760 GB/s memória-áteresztőképességgel.

Ez a megfelelő GPU Önnek?

Akkor válassza a H100 PCIE-t, ha a munkaterheléseihez 80 GB VRAM-ra, adatközponti szintű memória-sávszélességre és a Hopper 9.0-s számítási képességeire van szükség. Könnyebb következtetéshez vagy kisebb modellekhez egy kevesebb VRAM-mal rendelkező munkaállomás- vagy fogyasztói GPU gazdaságosabb; szélsőséges áteresztőképességi igények esetén pedig egy SXM-alapú adatközponti változat lehet megfelelőbb.

Összehasonlítás hasonló GPU-kkal

GPUVRAM GPU-nkéntArchitektúraFP32 számítási teljesítményÓránként márRészletek
H100 PCIE80 GBHopper≈ 41 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—Részletek
H100 SXM80 GBHopper≈ 53.5 TFLOPS—Részletek
RTX A600048 GBAmpere≈ 36.1 TFLOPS—Részletek

Gyakori kérdések

Alkalmas a H100 PCIE LLM-ek finomhangolására és következtetésre?

Igen, a 80 GB VRAM és a körülbelül 1760 GB/s memória-sávszélesség kiválóan alkalmassá teszi nagy modellek üzemeltetésére és tanítására. Az előre konfigurált PyTorch/CUDA-, vLLM- vagy Ollama-sablonokkal azonnal elkezdheti a munkát.

Hogyan viszonyul a H100 PCIE az SXM változatokhoz vagy a kisebb munkaállomás-GPU-khoz?

A H100 PCIE 350 W TDP-vel működik, így az energiaigénye alacsonyabb, és szabványos PCIe-kompatibilitást kínál a nagyobb fogyasztású SXM adatközponti változatokhoz képest. A munkaállomás- vagy fogyasztói kártyáknál jelentősen több, 80 GB VRAM-ot és nagyobb memória-sávszélességet biztosít.

Milyen szoftveres támogatást és számítási képességet kínál ez a GPU?

Az NVIDIA Hopper architektúrára épülő H100 PCIE támogatja a CUDA 9.0-s számítási képességet. Azonnal elindíthat példányokat a PyTorch/CUDA- és ComfyUI-sablonokkal, vagy SSH-hozzáféréssel saját szoftverkörnyezetet is beállíthat.

Hogyan működik a H100 PCIE-példányok számlázása a(z) ONIE platformon?

A(z) ONIE platformon a példányok számlázása egyszerű, óradíjas elszámolással történik, így csak a GPU aktív használatának idejéért fizet. Minden üzembe helyezéshez teljes SSH-hozzáférés jár.

Bérelje a H100 PCIE-t óránkénti díjszabással

Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.

H100 PCIE bérlése

Összes GPU →