Alquile GPU NVIDIA L40S por horas
La NVIDIA L40S es una GPU de centro de datos con arquitectura Ada Lovelace disponible para alquiler en la nube en ONIE. Ofrece 45 GB de VRAM, aproximadamente 73.3 TFLOPS de cómputo de precisión simple y un ancho de banda de memoria de unos 626 GB/s con un consumo energético de 350 W. Con compatibilidad para capacidad de cómputo CUDA 8.9, esta instancia procesa cargas de trabajo exigentes de entrenamiento de AI, inferencia y gráficos con facturación por hora.
Especificaciones
VRAM por GPU
Arquitectura
Capacidad de cómputo
Cómputo FP32
Ancho de banda de memoria
Límite de potencia
Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.
Configuraciones disponibles
Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.
Cargando precios en tiempo real…
Para qué es ideal la L40S
Inferencia de modelos extensos de lenguaje
Implemente modelos de lenguaje cuantizados o de precisión completa mediante plantillas listas como vLLM y Ollama dentro de los 45 GB de capacidad de memoria.
Flujos de trabajo de imágenes generativas
Ejecute canalizaciones de difusión complejas y tareas de generación por lotes en ComfyUI aprovechando la arquitectura Ada Lovelace.
Ajuste fino de aprendizaje profundo
Realice el ajuste fino de redes neuronales y adaptadores LoRA en entornos PyTorch/CUDA utilizando aproximadamente 73.3 TFLOPS de cómputo.
Gráficos y renderizado en centro de datos
Ejecute tareas de simulación y renderizado sin interfaz gráfica que se beneficien de una GPU de centro de datos con unos 626 GB/s de ancho de banda de memoria.
¿Es la GPU adecuada para usted?
Elija la L40S cuando su carga de trabajo requiera 45 GB de VRAM y la fiabilidad de un centro de datos, superando las tarjetas de consumo estándar. Si sus modelos caben en menos memoria, una GPU de estación de trabajo más pequeña o de consumo resulta más económica, mientras que los modelos fundacionales masivos sin cuantizar requieren una GPU de centro de datos con mayor memoria.
Comparar con GPU similares
Preguntas frecuentes
¿Es la NVIDIA L40S adecuada para la inferencia y el ajuste fino de LLM?
Sí, con 45 GB de VRAM y capacidad de cómputo CUDA 8.9, la L40S es muy adecuada para servir modelos de lenguaje medianos y grandes, así como para ejecutar ajustes finos eficientes en parámetros. Puede iniciar instancias con plantillas preconfiguradas de vLLM, Ollama o PyTorch/CUDA.
¿Cómo se compara la L40S con las GPU de consumo o con GPU de centro de datos más grandes?
La L40S ofrece más VRAM que las tarjetas Ada Lovelace de consumo estándar, lo que le permite alojar pesos de modelos más grandes sin descargar memoria al sistema. Sin embargo, tiene un ancho de banda de memoria inferior al de las GPU de centro de datos de alta memoria dedicadas exclusivamente al cómputo, las cuales son preferibles para trabajos de entrenamiento masivos limitados por la memoria.
¿Cómo me conecto y configuro mi instancia L40S en ONIE?
Obtiene acceso SSH completo a su entorno tan pronto como se inicia la instancia. También puede seleccionar plantillas listas que incluyen PyTorch/CUDA, ComfyUI, vLLM y Ollama para comenzar a trabajar de inmediato.
¿Cómo funciona la facturación para la L40S?
ONIE utiliza facturación por hora para todos los alquileres de L40S. Usted solo paga por el tiempo en que su instancia está asignada.
Alquile la L40S por horas
Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.
Alquilar L40S