Inferencia de LLM
vLLM, SGLang u Ollama con Open WebUI para desplegar y probar modelos de lenguaje.
Alquile servidores GPU NVIDIA por hora o por ciclo de facturación. Compare configuraciones y precios en tiempo real, inicie desde una plantilla lista para usar y conéctese por SSH o desde la terminal del navegador.
Con ONIE GPU Cloud usted alquila un servidor GPU del inventario en tiempo real: elija el modelo de GPU, la VRAM y el disco, comience desde una plantilla como PyTorch, vLLM, Ollama o ComfyUI, y luego conéctese por SSH. Los servidores por hora se cobran del saldo de su cuenta, y un servidor por hora detenido solo se factura por su disco.
Inventario en tiempo real: la disponibilidad y los precios cambian con el mercado. La consola confirma el precio final antes de realizar el pedido.
vLLM, SGLang u Ollama con Open WebUI para desplegar y probar modelos de lenguaje.
Unsloth Studio para el ajuste fino de modelos de lenguaje con sus propios datos.
ComfyUI para flujos de trabajo de Flux, SDXL y vídeo.
Imágenes de PyTorch y Ubuntu 24.04 con NVIDIA CUDA, accesibles mediante SSH.
Un escritorio Ubuntu en el navegador, o una máquina virtual KVM completa cuando la necesite.
Cada plantilla indica su versión mínima de CUDA, VRAM y disco; solo se ofrecen GPU compatibles para ella.
Cargas de trabajo que quepan en la memoria de la GPU: inferencia y ajuste fino de LLM, generación de imágenes y vídeo, renderizado y desarrollo con CUDA. Las plantillas para PyTorch, vLLM, SGLang, Ollama, Unsloth y ComfyUI instalan el software por usted.
Por SSH con su clave, o con la terminal de su navegador desde la consola. Las plantillas de escritorio y VM también proporcionan acceso gráfico.
Los precios provienen del inventario de GPU en tiempo real y pueden cambiar. La consola muestra el precio confirmado antes de realizar el pedido, y su servidor se factura a ese precio confirmado.
Con la facturación por horas, un servidor detenido solo genera cargos por su disco. Elimine el servidor cuando ya no necesite sus datos.
La tabla anterior enumera las configuraciones disponibles actualmente, incluida la NVIDIA RTX 5090 con 32 GB de VRAM cuando hay existencias. La disponibilidad cambia a lo largo del día.