GPU Cloud · NVIDIA · Hopper

Alquile GPU NVIDIA H100 NVL por horas

La NVIDIA H100 NVL es una GPU para centros de datos con arquitectura Hopper, equipada con 94 GB de VRAM y capacidad de cómputo 9.0. Ofrece alrededor de 48.3 TFLOPS de rendimiento en precisión simple y unos 3381 GB/s de ancho de banda de memoria dentro de un límite térmico de 400 W. Alquile la H100 NVL en ONIE con facturación por hora, acceso SSH y plantillas listas para PyTorch/CUDA, vLLM, Ollama y ComfyUI.

Especificaciones

VRAM por GPU

94 GB

Arquitectura

NVIDIA Hopper

Capacidad de cómputo

9.0

Cómputo FP32

≈ 48.3 TFLOPS

Ancho de banda de memoria

≈ 3,381 GB/s

Límite de potencia

400 W

Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.

Configuraciones disponibles

Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.

Cargando precios en tiempo real…

Para qué es ideal la H100 NVL

Inferencia de modelos de lenguaje de gran tamaño

Implemente modelos de lenguaje de alta capacidad con vLLM u Ollama aprovechando 94 GB de VRAM y unos 3381 GB/s de ancho de banda de memoria para una rápida generación de tokens.

Ajuste fino de aprendizaje profundo

Entrene y ajuste redes neuronales en PyTorch utilizando las funciones de la arquitectura Hopper y la capacidad de cómputo 9.0.

Generación de imágenes de alta resolución

Ejecute flujos de trabajo complejos de ComfyUI y grandes canalizaciones de difusión en memoria sin necesidad de descargarlos a la RAM del sistema.

Computación científica y simulación

Ejecute cargas de trabajo de centro de datos con uso intensivo de memoria que se benefician de unos 48.3 TFLOPS de cómputo en precisión simple.

¿Es la GPU adecuada para usted?

Elija la H100 NVL cuando sus cargas de trabajo de AI o de cómputo requieran más memoria de la que proporcionan las tarjetas estándar para centros de datos, con hasta 94 GB de VRAM. Una GPU de estación de trabajo más pequeña o de consumo es una mejor opción para el desarrollo y la inferencia ligera, mientras que será necesaria una configuración multi-GPU o un nivel de memoria superior si sus modelos superan los 94 GB.

Comparar con GPU similares

GPUVRAM por GPUArquitecturaCómputo FP32Desde / horaDetalles
H100 NVL94 GBHopper≈ 48.3 TFLOPS—
H100 SXM80 GBHopper≈ 53.5 TFLOPS—Detalles
H200 NVL140 GBHopper≈ 48.3 TFLOPS—Detalles
H100 PCIE80 GBHopper≈ 41 TFLOPS—Detalles

Preguntas frecuentes

¿Es la H100 NVL adecuada para la inferencia y el ajuste fino de LLM?

Sí, sus 94 GB de VRAM y unos 3381 GB/s de ancho de banda de memoria la hacen muy adecuada para ejecutar y ajustar modelos de lenguaje de gran tamaño que no caben en GPU más pequeñas para centros de datos.

¿Cómo se compara la H100 NVL con las variantes estándar de la H100?

La H100 NVL ofrece una capacidad ampliada de 94 GB de VRAM y un límite de consumo de 400 W, lo que proporciona un margen de memoria adicional en comparación con las configuraciones estándar de centro de datos Hopper.

¿Qué plantillas de software están disponibles en ONIE para esta GPU?

Puede implementar la H100 NVL utilizando plantillas preconfiguradas para PyTorch/CUDA, vLLM, Ollama y ComfyUI, todas compatibles con la capacidad de cómputo 9.0.

¿Cómo funcionan la facturación y el acceso al alquilar la H100 NVL?

Las instancias en ONIE utilizan facturación por hora y proporcionan acceso SSH directo para que pueda gestionar su entorno y sus flujos de trabajo de inmediato.

Alquile la H100 NVL por horas

Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.

Alquilar H100 NVL

Todas las GPU →