Alquile GPU NVIDIA H200 NVL por horas
La NVIDIA H200 NVL es una GPU para centros de datos con arquitectura Hopper diseñada para cargas de trabajo con uso intensivo de memoria, que ofrece 140 GB de VRAM y un ancho de banda de memoria de aproximadamente 3884 GB/s. Funciona con un consumo energético de 600 W, admite capacidad de cómputo 9.0 y ofrece alrededor de 48.3 TFLOPS de cómputo de punto flotante estándar. Puede implementar este procesador en ONIE con facturación por hora, acceso SSH directo y plantillas listas para usar.
Especificaciones
VRAM por GPU
Arquitectura
Capacidad de cómputo
Cómputo FP32
Ancho de banda de memoria
Límite de potencia
Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.
Configuraciones disponibles
Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.
Cargando precios en tiempo real…
Para qué es ideal la H200 NVL
Inferencia de grandes modelos de lenguaje
Ejecute modelos grandes en memoria sin fragmentación, aprovechando la capacidad de 140 GB de VRAM y aproximadamente 3884 GB/s de ancho de banda de memoria.
Ajuste fino y entrenamiento de modelos
Entrene y adapte modelos de aprendizaje profundo utilizando la capacidad de cómputo Hopper 9.0 y una amplia memoria de GPU para lotes de gran tamaño.
Procesamiento por lotes de alto rendimiento
Procese conjuntos de datos masivos y ventanas de contexto extensas de manera eficiente mediante plantillas preconfiguradas de PyTorch/CUDA, vLLM u Ollama.
Computación científica y simulación
Ejecute simulaciones complejas de centros de datos que requieren alrededor de 48.3 TFLOPS de rendimiento de punto flotante estándar y una considerable memoria integrada.
¿Es la GPU adecuada para usted?
Elija la H200 NVL cuando su principal cuello de botella sea la capacidad de VRAM y el ancho de banda de memoria, especialmente para alojar modelos grandes en una sola tarjeta. Si ejecuta inferencias más ligeras, generación de imágenes estándar o tareas de desarrollo que no requieren 140 GB de memoria, una GPU de consumo o de estación de trabajo más pequeña es una opción más práctica.
Comparar con GPU similares
Preguntas frecuentes
¿Por qué elegir la H200 NVL en lugar de una GPU Hopper estándar?
La H200 NVL proporciona 140 GB de VRAM y alrededor de 3884 GB/s de ancho de banda de memoria, lo que supera la capacidad y el ancho de banda de memoria de las tarjetas anteriores de la generación Hopper. Esto permite alojar modelos y ventanas de contexto más grandes en una sola GPU.
¿Es la H200 NVL adecuada para servir LLM con vLLM u Ollama?
Sí, el conjunto de memoria de 140 GB y el alto ancho de banda de memoria la hacen muy adecuada para servir grandes modelos de lenguaje. ONIE ofrece plantillas listas para usar tanto para vLLM como para Ollama con el fin de ayudarle a comenzar rápidamente.
¿Qué entornos de software y métodos de acceso están disponibles?
Cada instancia incluye acceso SSH completo para una configuración personalizada. También puede iniciar instancias con plantillas preinstaladas que incluyen PyTorch/CUDA, vLLM, Ollama y ComfyUI.
¿Cómo funciona la facturación de la H200 NVL en ONIE?
Las instancias se facturan por hora. Usted solo paga por el tiempo que su instancia H200 NVL permanezca activa.
Alquile la H200 NVL por horas
Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.
Alquilar H200 NVL