Alquile GPU NVIDIA H100 SXM por horas
La NVIDIA H100 SXM es una GPU para centro de datos con arquitectura Hopper equipada con 80 GB de VRAM y un límite de potencia de 700 W. Ofrece aproximadamente 53.5 TFLOPS de cómputo en coma flotante estándar y un ancho de banda de memoria de unos 2869 GB/s, con compatibilidad para la capacidad de cómputo CUDA 9.0. Alquílela en ONIE con facturación por hora, acceso SSH completo y plantillas listas para usar con PyTorch/CUDA, vLLM, Ollama y ComfyUI.
Especificaciones
VRAM por GPU
Arquitectura
Capacidad de cómputo
Cómputo FP32
Ancho de banda de memoria
Límite de potencia
Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.
Configuraciones disponibles
Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.
Cargando precios en tiempo real…
Para qué es ideal la H100 SXM
Inferencia de modelos de lenguaje de gran tamaño
Implemente modelos de lenguaje exigentes en producción utilizando la capacidad de 80 GB de VRAM y unos 2869 GB/s de ancho de banda de memoria mediante plantillas de vLLM u Ollama.
Ajuste fino de aprendizaje profundo
Entrene y realice ajustes finos en redes neuronales aprovechando la arquitectura Hopper y la capacidad de cómputo CUDA 9.0 con entornos PyTorch/CUDA preconfigurados.
Procesamiento por lotes de alto rendimiento
Ejecute cargas de trabajo intensivas de simulación y procesamiento de datos que se benefician de unos 53.5 TFLOPS de rendimiento de cómputo en un formato de centro de datos de 700 W.
Flujos de trabajo pesados de medios generativos
Ejecute canalizaciones complejas de ComfyUI y modelos de difusión con lotes de gran tamaño que caben holgadamente dentro del grupo de memoria de 80 GB.
¿Es la GPU adecuada para usted?
Elija la H100 SXM cuando sus cargas de trabajo de entrenamiento o inferencia requieran 80 GB de memoria de alto ancho de banda para centro de datos y las características de la arquitectura Hopper. Una GPU de consumo o de estación de trabajo más pequeña es una opción más práctica para el desarrollo ligero o modelos pequeños, mientras que es preferible una GPU para centro de datos más reciente o de mayor capacidad si una sola instancia no puede alojar todo su modelo en 80 GB de VRAM.
Comparar con GPU similares
Preguntas frecuentes
¿Es la H100 SXM adecuada para el ajuste fino y la inferencia de LLM?
Sí, sus 80 GB de VRAM y su ancho de banda de memoria de unos 2869 GB/s la hacen ideal tanto para servir como para realizar ajustes finos en modelos de lenguaje de gran tamaño. Puede comenzar de inmediato en ONIE utilizando plantillas listas para vLLM, Ollama o PyTorch/CUDA.
¿Cómo se compara la variante SXM con las GPU de estación de trabajo o de centro de datos de menor consumo?
La H100 SXM funciona con una potencia de diseño térmico de 700 W, lo que le permite mantener un mayor rendimiento de cómputo y ancho de banda de memoria que las variantes PCIe para centro de datos o las tarjetas para estaciones de trabajo. Si su carga de trabajo no satura unos 53.5 TFLOPS de cómputo ni los 80 GB de memoria, una GPU más pequeña puede ser suficiente.
¿Qué compatibilidad de software ofrece la capacidad de cómputo CUDA 9.0?
La capacidad de cómputo 9.0 indica soporte de hardware para las instrucciones y características de la arquitectura NVIDIA Hopper. Nuestras plantillas preconfiguradas de PyTorch/CUDA vienen listas para utilizar este hardware sin necesidad de configurar los controladores manualmente.
¿Cómo funcionan la facturación y el acceso a las instancias en ONIE?
Las instancias se facturan por hora durante el período de alquiler. Una vez implementadas, puede conectarse directamente a su entorno mediante acceso SSH o interactuar con herramientas preinstaladas como ComfyUI.
Alquile la H100 SXM por horas
Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.
Alquilar H100 SXM