Inferência de LLM
Sirva modelos que cabem em 32 GB, frequentemente quantizados, com vLLM, SGLang ou Ollama.
Servidores RTX 5090 com 32 GB de memória GDDR7 na arquitetura Blackwell, para inferência de LLM, geração de imagens e desenvolvimento em CUDA. Confira as configurações e os preços atuais e crie seu servidor pelo painel.
A ONIE aluga servidores com GPU NVIDIA RTX 5090 e 32 GB de VRAM GDDR7 a partir de um estoque em tempo real. Escolha um modelo preparado para CUDA 12.8 ou superior, como PyTorch, vLLM ou ComfyUI, defina o tamanho do disco e pague por hora ou por ciclo de faturamento; depois, conecte-se via SSH ou pelo terminal do navegador.
Estoque em tempo real: a disponibilidade e os preços mudam conforme o mercado. O console confirma o preço final antes de você concluir o pedido.
Sirva modelos que cabem em 32 GB, frequentemente quantizados, com vLLM, SGLang ou Ollama.
Fluxos de trabalho do ComfyUI com Flux, SDXL e modelos de vídeo.
Ajuste fino estilo LoRA de modelos menores com Unsloth Studio.
Ubuntu 24.04 com CUDA 13.0 para compilar e testar código em GPU.
Verifique a VRAM mínima de um modelo antes de fazer o pedido; modelos maiores que 32 GB exigem quantização ou uma configuração com múltiplas GPUs.
32 GB de GDDR7 por GPU. Em uma configuração com múltiplas GPUs, cada GPU possui seus próprios 32 GB.
A RTX 5090 utiliza a arquitetura Blackwell e precisa do CUDA 12.8 ou superior. Os modelos da RTX 5090 usam CUDA 12.8 ou 13.0, e apenas servidores compatíveis são oferecidos.
Por hora enquanto estiver em execução, ou por ciclo mensal, trimestral, semestral ou anual. O disco é cobrado por GB, e um servidor por hora que estiver parado é faturado apenas pelo disco.
Sim, modelos que cabem em 32 GB de VRAM, geralmente com quantização, ou modelos maiores distribuídos em várias GPUs quando uma configuração multi-GPU estiver disponível.
A disponibilidade acompanha o estoque em tempo real. Verifique novamente mais tarde ou escolha outra GPU com VRAM suficiente na página do GPU Cloud.