Inferência de LLM
vLLM, SGLang ou Ollama com Open WebUI para servir e testar modelos de linguagem.
Alugue servidores com GPU NVIDIA por hora ou por ciclo de faturamento. Compare configurações e preços em tempo real, comece a partir de um modelo pronto e conecte-se via SSH ou pelo terminal do navegador.
Com o ONIE GPU Cloud, você aluga um servidor com GPU a partir do estoque em tempo real: escolha o modelo da GPU, a VRAM e o disco, inicie com um modelo pronto como PyTorch, vLLM, Ollama ou ComfyUI e conecte-se via SSH. Servidores por hora são debitados do saldo da sua conta, e um servidor por hora parado é cobrado apenas pelo disco.
Estoque em tempo real: a disponibilidade e os preços mudam conforme o mercado. O console confirma o preço final antes de você concluir o pedido.
vLLM, SGLang ou Ollama com Open WebUI para servir e testar modelos de linguagem.
Unsloth Studio para fazer o ajuste fino de modelos de linguagem com seus próprios dados.
ComfyUI para fluxos de trabalho com Flux, SDXL e vídeo.
Imagens com PyTorch e Ubuntu 24.04 com NVIDIA CUDA, acessíveis via SSH.
Um desktop Ubuntu no navegador ou uma máquina virtual KVM completa quando você precisar.
Cada modelo lista a versão mínima do CUDA, a VRAM e o disco necessários; apenas GPUs compatíveis são oferecidas para ele.
Cargas de trabalho que caibam na memória da GPU: inferência e ajuste fino de LLMs, geração de imagens e vídeos, renderização e desenvolvimento em CUDA. Os modelos para PyTorch, vLLM, SGLang, Ollama, Unsloth e ComfyUI já instalam o software para você.
Via SSH com sua chave, ou pelo terminal no navegador diretamente no painel. Modelos de desktop e VM também oferecem acesso gráfico.
Os preços vêm do estoque de GPUs em tempo real e podem variar. O painel exibe o preço confirmado antes de você finalizar o pedido, e seu servidor é faturado por esse valor confirmado.
No faturamento por hora, um servidor parado é cobrado apenas pelo disco. Exclua o servidor quando não precisar mais dos dados.
A tabela acima lista as configurações disponíveis no momento, incluindo a NVIDIA RTX 5090 com 32 GB de VRAM quando está em estoque. A disponibilidade muda ao longo do dia.