Inferència de LLM
vLLM, SGLang o Ollama amb Open WebUI per servir i provar models de llenguatge.
Llogui servidors GPU NVIDIA per hores o per cicle de facturació. Compari configuracions i preus en temps real, parteixi d'una plantilla preparada i connecti's per SSH o des del terminal del navegador.
Amb GPU Cloud de ONIE llogui un servidor amb GPU de l'inventari en directe: triï el model de GPU, la VRAM i el disc, parteixi d'una plantilla com PyTorch, vLLM, Ollama o ComfyUI, i després es connecti per SSH. Els servidors per hores es paguen amb el saldo del seu compte, i un servidor per hores aturat només es factura pel seu disc.
Inventari en temps real: la disponibilitat i els preus canvien amb el mercat. La consola confirma el preu final abans de fer la comanda.
vLLM, SGLang o Ollama amb Open WebUI per servir i provar models de llenguatge.
Unsloth Studio per ajustar models de llenguatge amb les seves pròpies dades.
ComfyUI per a fluxos de treball amb Flux, SDXL i vídeo.
Imatges de PyTorch i Ubuntu 24.04 amb NVIDIA CUDA, accessibles per SSH.
Un escriptori Ubuntu al navegador, o una màquina virtual KVM completa quan la necessiti.
Cada plantilla indica la versió mínima de CUDA, la VRAM i el disc; només s'ofereixen les GPU compatibles amb ella.
Càrregues de treball que caben a la memòria de la GPU: inferència i ajust fi de LLM, generació d'imatges i vídeo, renderització i desenvolupament amb CUDA. Les plantilles per a PyTorch, vLLM, SGLang, Ollama, Unsloth i ComfyUI instal·len el programari per vostè.
Per SSH amb la seva clau, o amb el terminal del navegador des de la consola. Les plantilles d'escriptori i de VM també ofereixen accés gràfic.
Els preus provenen de l'inventari de GPU en directe i poden canviar. La consola mostra el preu confirmat abans de fer la comanda, i el seu servidor es factura a aquest preu confirmat.
Amb facturació per hora, un servidor aturat només es factura pel seu disc. Elimina el servidor quan ja no necessitis les seves dades.
La taula de dalt enumera les configuracions disponibles actualment, inclosa la NVIDIA RTX 5090 amb 32 GB de VRAM quan hi ha estoc. La disponibilitat canvia al llarg del dia.