Alquile GPU NVIDIA CMP 170HX por horas
La NVIDIA CMP 170HX es una GPU para centros de datos con arquitectura Ampere, equipada con 64 GB de VRAM y un TDP de 250 W. Ofrece aproximadamente 1516 GB/s de ancho de banda de memoria junto con alrededor de 12.1 TFLOPS de cómputo de precisión simple con capacidad de cómputo 8.0. En ONIE, puede implementar esta tarjeta con facturación por hora, acceso SSH completo y plantillas listas para usar con PyTorch/CUDA, vLLM, Ollama y ComfyUI.
Especificaciones
VRAM por GPU
Arquitectura
Capacidad de cómputo
Cómputo FP32
Ancho de banda de memoria
Límite de potencia
Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.
Configuraciones disponibles
Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.
Cargando precios en tiempo real…
Para qué es ideal la CMP 170HX
Inferencia de LLM limitada por memoria
Ejecute grandes modelos de lenguaje mediante vLLM u Ollama aprovechando la capacidad de 64 GB de VRAM y los aproximadamente 1516 GB/s de ancho de banda de memoria.
Aprendizaje profundo de alta memoria
Ejecute cargas de trabajo de PyTorch/CUDA que requieran una capacidad de memoria sustancial y capacidad de cómputo 8.0 sin dividir los modelos entre varios dispositivos.
Flujos de trabajo complejos de generación de imágenes
Cargue simultáneamente múltiples puntos de control de difusión grandes y redes de control en ComfyUI dentro del grupo de memoria de 64 GB.
Procesamiento de datos y simulación
Ejecute tareas de centro de datos con uso intensivo de memoria que se beneficien de un alto rendimiento de memoria dentro de un límite de consumo energético de 250 W.
¿Es la GPU adecuada para usted?
Elija la CMP 170HX cuando el cuello de botella de su carga de trabajo sea la capacidad y el ancho de banda de la memoria en lugar del cómputo bruto de precisión simple. Opte por una GPU con mayor rendimiento de cómputo si requiere iteraciones de entrenamiento más rápidas, o seleccione una tarjeta de consumo más pequeña si sus modelos no necesitan 64 GB de VRAM.
Comparar con GPU similares
Preguntas frecuentes
¿Es la CMP 170HX adecuada para la inferencia de LLM?
Sí, sus 64 GB de VRAM y aproximadamente 1516 GB/s de ancho de banda de memoria la hacen muy adecuada para cargar y servir grandes modelos de lenguaje utilizando plantillas como vLLM y Ollama. Sin embargo, dado que proporciona alrededor de 12.1 TFLOPS de cómputo de precisión simple, el procesamiento de instrucciones (prompts) será más lento que en las GPU de centro de datos con mayor densidad de cómputo.
¿Cómo se compara esta GPU con los aceleradores estándar de centros de datos?
La CMP 170HX ofrece un gran búfer de memoria de 64 GB y un alto ancho de banda de memoria similar al de las tarjetas Ampere estándar para centros de datos, mientras opera con un TDP de 250 W. Su principal contrapartida es un menor rendimiento de cómputo de aproximadamente 12.1 TFLOPS, lo que la hace más apropiada para tareas limitadas por memoria que para cargas de trabajo de cómputo intensivo.
¿Qué entornos de software están disponibles para esta GPU?
La tarjeta admite la capacidad de cómputo CUDA 8.0 y puede iniciarse en ONIE utilizando plantillas preconfiguradas que incluyen PyTorch/CUDA, vLLM, Ollama y ComfyUI. También obtiene acceso directo por SSH para instalar bibliotecas personalizadas y administrar su entorno.
¿Cómo funciona la facturación al alquilar la CMP 170HX?
Las instancias en ONIE utilizan facturación por hora, por lo que usted solo paga por el tiempo durante el cual su GPU permanece activa.
Alquile la CMP 170HX por horas
Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.
Alquilar CMP 170HX