Alquile GPU NVIDIA RTX 3090 por horas
La NVIDIA RTX 3090 es una GPU de consumo con arquitectura Ampere equipada con 24 GB de VRAM y capacidad de cómputo 8.6. Ofrece aproximadamente 35.4 TFLOPS de cómputo de precisión simple estándar y unos 805 GB/s de ancho de banda de memoria con una potencia nominal de 350 W. Puede alquilar esta GPU en ONIE con facturación por hora, acceso SSH completo y plantillas listas para usar con PyTorch/CUDA, vLLM, Ollama y ComfyUI.
Especificaciones
VRAM por GPU
Arquitectura
Capacidad de cómputo
Cómputo FP32
Ancho de banda de memoria
Límite de potencia
Valores informados por el proveedor de infraestructura para las máquinas publicadas actualmente; el rendimiento real varía según la máquina.
Configuraciones disponibles
Disponibilidad y precios en tiempo real, actualizados continuamente. El precio final se confirma antes de realizar el pedido.
Cargando precios en tiempo real…
Para qué es ideal la RTX 3090
Inferencia de LLM a escala local
Ejecute modelos de lenguaje cuantizados o de tamaño medio en 24 GB de VRAM utilizando plantillas preconfiguradas de vLLM u Ollama.
Flujos de trabajo de generación de imágenes
Despliegue ComfyUI para generar imágenes de alta resolución y ejecutar flujos de difusión personalizados sin alcanzar los límites de memoria de las tarjetas de consumo estándar.
Ajuste fino y entrenamiento de modelos
Utilice la plantilla de PyTorch/CUDA para ajustar redes neuronales que quepan dentro de un límite de memoria de 24 GB y aproveche aproximadamente 805 GB/s de ancho de banda de memoria.
Cómputo CUDA general
Ejecute cargas de trabajo personalizadas compiladas para la capacidad de cómputo 8.6 con aproximadamente 35.4 TFLOPS de rendimiento de precisión simple.
¿Es la GPU adecuada para usted?
La RTX 3090 es ideal para desarrolladores e investigadores que necesitan 24 GB de VRAM para tareas con uso intensivo de memoria en una tarjeta Ampere del segmento de consumo. Elija una GPU más pequeña para inferencias ligeras que requieran menos memoria, o pase a una GPU de estación de trabajo o centro de datos si sus modelos superan los 24 GB de VRAM o requieren características de arquitecturas más recientes.
Comparar con GPU similares
Preguntas frecuentes
¿Es la RTX 3090 adecuada para la inferencia y el ajuste fino de LLM?
Sí, sus 24 GB de VRAM y aproximadamente 805 GB/s de ancho de banda de memoria le permiten ejecutar y realizar el ajuste fino de muchos modelos de lenguaje de pesos abiertos. Puede iniciar plantillas de vLLM, Ollama o PyTorch/CUDA directamente en ONIE para comenzar a trabajar de inmediato.
¿Cómo se compara la RTX 3090 con otras GPU más pequeñas o más grandes?
Con 24 GB de VRAM, la RTX 3090 admite considerablemente más pesos de modelo y tamaños de lote más grandes que las tarjetas de consumo de gama inferior. Sin embargo, si su carga de trabajo requiere más de 24 GB de memoria o más de unos 35.4 TFLOPS de cómputo de precisión simple, debería considerar una GPU de nueva generación o del segmento de centro de datos.
¿Cómo me conecto a mi instancia RTX 3090 y qué software incluye?
Puede conectarse directamente a su instancia mediante acceso SSH. ONIE proporciona plantillas listas para usar de PyTorch/CUDA, vLLM, Ollama y ComfyUI para que no tenga que configurar el entorno de software manualmente.
¿Cómo funciona la facturación de la RTX 3090 en ONIE?
Las instancias se facturan por hora. Usted solo paga por el tiempo que su instancia de GPU permanece activa.
Alquile la RTX 3090 por horas
Cree una cuenta, elija una configuración y conéctese por SSH. La facturación se detiene cuando elimina la GPU.
Alquilar RTX 3090