Lloga GPU NVIDIA H100 NVL per hora
La NVIDIA H100 NVL és una GPU de centre de dades amb arquitectura Hopper, equipada amb 94 GB de VRAM i capacitat de còmput 9.0. Ofereix uns 48,3 TFLOPS de rendiment en precisió simple i uns 3381 GB/s d'ample de banda de memòria, dins d'un límit tèrmic de 400 W. Lloga la H100 NVL a ONIE amb facturació per hora, accés SSH i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la H100 NVL
Inferència de models de llenguatge de gran mida
Desplegueu models de llenguatge de gran capacitat amb vLLM o Ollama, aprofitant els 94 GB de VRAM i uns 3381 GB/s d'ample de banda de memòria per a una generació de tokens ràpida.
Ajust fi en aprenentatge profund
Entreneu i ajusteu xarxes neuronals amb PyTorch, utilitzant les funcionalitats de l'arquitectura Hopper i la capacitat de còmput 9.0.
Generació d'imatges d'alta resolució
Executeu fluxos de treball complexos de ComfyUI i pipelines de difusió de gran mida amb tot a la memòria, sense descàrrega a la RAM del sistema.
Computació científica i simulació
Executeu càrregues de treball de centre de dades intensives en memòria que es beneficien de uns 48,3 TFLOPS de còmput en precisió simple.
És la GPU adequada per a vostè?
Trieu la H100 NVL quan les vostres càrregues d'IA o de còmput necessiten més memòria que la que ofereixen les targetes de centre de dades estàndard, fins a 94 GB de VRAM. Una GPU de estació de treball o de consum més petita és una millor opció per a inferència lleugera i desenvolupament, mentre que una configuració multi-GPU o un nivell de memòria més gran és necessari si els vostres models superen els 94 GB.
Compari amb GPU similars
Preguntes freqüents
La H100 NVL és adequada per a la inferència i l'ajust fi de LLM?
Sí, els seus 94 GB de VRAM i uns 3381 GB/s d'ample de banda de memòria la fan molt adequada per servir i ajustar fi models de llenguatge de gran mida que no caben en GPU de centre de dades més petites.
Com es compara la H100 NVL amb les variants estàndard de la H100?
La H100 NVL ofereix una capacitat de VRAM ampliada de 94 GB i un límit de potència de 400 W, cosa que proporciona més marge de memòria en comparació amb les configuracions estàndard de centre de dades Hopper.
Quines plantilles de programari hi ha disponibles a ONIE per a aquesta GPU?
Podeu desplegar la H100 NVL amb plantilles preconfigurades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI, totes compatibles amb la capacitat de còmput 9.0.
Com funcionen la facturació i l'accés en llogar la H100 NVL?
Les instàncies a ONIE utilitzen facturació per hora i proporcionen accés SSH directe perquè pugueu gestionar el vostre entorn i els vostres fluxos de treball de seguida.
Llogui la H100 NVL per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar H100 NVL