Lloga GPU NVIDIA H200 NVL per hora
La NVIDIA H200 NVL és una GPU de centre de dades de l'arquitectura Hopper dissenyada per a càrregues de treball intensives en memòria, amb 140 GB de VRAM i un ample de banda de memòria d'uns 3884 GB/s. Funciona amb un consum de 600 W, admet la capacitat de càlcul 9.0 i ofereix uns 48,3 TFLOPS de còmput de coma flotant estàndard. Pot desplegar aquest processador a ONIE amb facturació per hora, accés SSH directe i plantilles preparades.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la H200 NVL
Inferència de grans models de llenguatge
Executi models grans a la memòria sense fragmentar-los, aprofitant la capacitat de 140 GB de VRAM i uns 3884 GB/s d'ample de banda de memòria.
Ajustament fi i entrenament de models
Entreni i adapti models d'aprenentatge profund amb la capacitat de càlcul 9.0 de Hopper i una memòria de GPU àmplia per a mides de lot grans.
Processament per lots d'alt rendiment
Processi conjunts de dades massius i finestres de context llargues de manera eficient amb plantilles preconfigurades de PyTorch/CUDA, vLLM o Ollama.
Computació científica i simulació
Executi simulacions complexes de centre de dades que requereixen uns 48,3 TFLOPS de rendiment de coma flotant estàndard i una memòria integrada substancial.
És la GPU adequada per a vostè?
Triï la H200 NVL quan el seu principal coll d'ampolla sigui la capacitat de VRAM i l'ample de banda de memòria, especialment per allotjar grans models en una sola targeta. Si executa inferència més lleugera, generació d'imatges estàndard o tasques de desenvolupament que no requereixen 140 GB de memòria, una estació de treball més petita o una GPU de consum és una opció més pràctica.
Compari amb GPU similars
Preguntes freqüents
Per què triar la H200 NVL en lloc d'una GPU Hopper estàndard?
La H200 NVL ofereix 140 GB de VRAM i uns 3884 GB/s d'ample de banda de memòria, una capacitat i un ample de banda superiors als de les targetes Hopper de generacions anteriors. Això permet que models i finestres de context més grans càpiguen en una sola GPU.
La H200 NVL és adequada per al servei de LLM amb vLLM o Ollama?
Sí, la memòria de 140 GB i el seu ample de banda elevat la fan molt adequada per servir grans models de llenguatge. ONIE ofereix plantilles preparades per a vLLM i Ollama perquè pugui començar ràpidament.
Quins entorns de programari i mètodes d'accés hi ha disponibles?
Cada instància inclou accés SSH complet per a la configuració personalitzada. També pot iniciar instàncies amb plantilles preinstal·lades, com PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Com funciona la facturació de la H200 NVL a ONIE?
Les instàncies es facturen per hora. Només paga pel temps que la seva instància H200 NVL està activa.
Llogui la H200 NVL per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar H200 NVL