Lloga GPU NVIDIA H100 SXM per hora
La NVIDIA H100 SXM és una GPU de centre de dades amb arquitectura Hopper, equipada amb 80 GB de VRAM i un consum de 700 W. Ofereix uns 53,5 TFLOPS de càlcul de coma flotant estàndard i un ample de banda de memòria d'uns 2869 GB/s, i admet CUDA compute capability 9.0. Llogui-la a ONIE amb facturació per hora, accés SSH complet i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la H100 SXM
Inferència de models de llenguatge de gran mida
Desplegui models de llenguatge exigents en producció aprofitant els 80 GB de VRAM i uns 2869 GB/s d'ample de banda de memòria mitjançant les plantilles de vLLM o Ollama.
Ajust fi en aprenentatge profund
Entreni i ajusti xarxes neuronals aprofitant l'arquitectura Hopper i CUDA compute capability 9.0 amb entorns PyTorch/CUDA preconfigurats.
Processament per lots d'alt rendiment
Executi càrregues intensives de processament de dades i de simulació que es beneficien de uns 53,5 TFLOPS de rendiment de càlcul en un format de centre de dades de 700 W.
Fluxos de treball intensius de mitjans generatius
Executi pipelines complexos de ComfyUI i models de difusió amb mides de lot grans que caben còmodament dins de la memòria de 80 GB.
És la GPU adequada per a vostè?
Triï la H100 SXM quan les seves càrregues d'entrenament o d'inferència requereixin 80 GB de memòria de centre de dades amb alt ample de banda i les funcions de l'arquitectura Hopper. Una estació de treball més petita o una GPU de consum és una opció més pràctica per al desenvolupament lleuger o per a models petits, mentre que una GPU de centre de dades més nova o de major capacitat és preferible si una sola instància no pot allotjar tot el seu model en 80 GB de VRAM.
Compari amb GPU similars
Preguntes freqüents
És la H100 SXM adequada per a l'ajust fi i la inferència de LLM?
Sí, els seus 80 GB de VRAM i un ample de banda de memòria d'uns 2869 GB/s la fan idònia tant per a servir com per a ajustar models de llenguatge de gran mida. Pot començar de seguida a ONIE amb plantilles preparades per a vLLM, Ollama o PyTorch/CUDA.
Com es compara la variant SXM amb les GPU de centre de dades o d'estació de treball de menor consum?
La H100 SXM funciona amb un consum tèrmic de disseny (TDP) de 700 W, cosa que li permet mantenir un rendiment de càlcul i un ample de banda de memòria superiors als de les variants de centre de dades PCIe o a les targetes d'estació de treball. Si la seva càrrega no satura els aproximadament 53,5 TFLOPS de càlcul ni els 80 GB de memòria, una GPU més petita pot ser suficient.
Quin suport de programari ofereix CUDA compute capability 9.0?
La compute capability 9.0 indica el suport de maquinari per a les instruccions i funcions de l'arquitectura NVIDIA Hopper. Les nostres plantilles PyTorch/CUDA preconfigurades estan a punt per aprofitar aquest maquinari sense cap configuració manual de controladors.
Com funcionen la facturació i l'accés a les instàncies a ONIE?
Les instàncies es facturen per hora durant la durada del lloguer. Un cop desplegades, pot connectar-se directament al seu entorn mitjançant accés SSH o utilitzar eines preinstal·lades com ComfyUI.
Llogui la H100 SXM per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar H100 SXM