Lloga GPU NVIDIA H100 PCIE per hora
La GPU de centre de dades NVIDIA H100 PCIE, basada en l'arquitectura Hopper, està pensada per a càrregues de treball exigents d'aprenentatge profund i de computació científica. Ofereix 80 GB de VRAM, uns 1760 GB/s d'ample de banda de memòria i uns 41,0 TFLOPS de còmput estàndard de coma flotant, dins d'un consum de 350 W. A ONIE, pot desplegar aquest accelerador de capacitat de còmput 9.0 amb facturació per hora i accés SSH complet.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la H100 PCIE
Inferència de models de llenguatge de gran mida
Serveixi models de llenguatge de gran mida a la memòria aprofitant els 80 GB de VRAM i el seu ample de banda de memòria elevat, juntament amb les plantilles preconfigurades de vLLM o Ollama.
Ajust fi i entrenament de models
Entreni o ajusti xarxes neuronals profundes aprofitant l'arquitectura Hopper i els entorns PyTorch/CUDA preparats.
Generació d'imatges per lots
Executi pipelines de difusió d'alt rendiment i fluxos de treball complexos de ComfyUI que es beneficien d'una gran capacitat de memòria.
Ciència de dades i simulació
Executi simulacions intensives en còmput i tasques de processament de dades amb uns 41,0 TFLOPS de rendiment de coma flotant estàndard i uns 1760 GB/s de rendiment de memòria.
És la GPU adequada per a vostè?
Triï la H100 PCIE quan les seves càrregues de treball necessitin 80 GB de VRAM, un ample de banda de memòria de nivell de centre de dades i les funcionalitats de capacitat de còmput Hopper 9.0. Per a inferència més lleugera o models més petits, una GPU de estació de treball o de consum amb menys VRAM és més econòmica, mentre que requisits de rendiment extrem poden justificar una variant de centre de dades basada en SXM.
Compari amb GPU similars
Preguntes freqüents
La H100 PCIE és adequada per a l'ajust fi i la inferència de LLM?
Sí, els seus 80 GB de VRAM i uns 1760 GB/s d'ample de banda de memòria la fan molt adequada per allotjar i entrenar models grans. Pot començar immediatament amb les plantilles preconfigurades per a PyTorch/CUDA, vLLM o Ollama.
Com es compara la H100 PCIE amb les SXM o les GPU de estació de treball més petites?
La H100 PCIE funciona amb un TDP de 350 W, amb un consum d'energia més baix i compatibilitat PCIe estàndard en comparació amb les variants de centre de dades SXM de major potència. Comparada amb les targetes de estació de treball o de consum, ofereix molta més VRAM, 80 GB, i un ample de banda de memòria més elevat.
Quin suport de programari i quina capacitat de còmput té aquesta GPU?
Basada en l'arquitectura NVIDIA Hopper, la H100 PCIE admet la capacitat de còmput CUDA 9.0. Pot iniciar instàncies amb plantilles preparades que inclouen PyTorch/CUDA i ComfyUI, o configurar la seva pròpia pila mitjançant accés SSH.
Com funciona la facturació de les instàncies H100 PCIE a ONIE?
Les instàncies a ONIE utilitzen una facturació senzilla per hora, de manera que només paga pel temps en què la seva GPU està activa. L'accés SSH complet s'inclou amb cada desplegament.
Llogui la H100 PCIE per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar H100 PCIE