Inferenza LLM
Distribuzione di modelli che rientrano in 32 GB, spesso quantizzati, con vLLM, SGLang o Ollama.
Server RTX 5090 con 32 GB di memoria GDDR7 su architettura Blackwell, per inferenza LLM, generazione di immagini e sviluppo CUDA. Verifica le configurazioni e i prezzi attuali, quindi crea il tuo server dalla console.
ONIE noleggia server GPU NVIDIA RTX 5090 con 32 GB di VRAM GDDR7 da un inventario in tempo reale. Scegli un modello progettato per CUDA 12.8 o successivo, come PyTorch, vLLM o ComfyUI, seleziona la dimensione del disco e paga a ore o per ciclo di fatturazione; quindi connettiti tramite SSH o dal terminale nel browser.
Inventario in tempo reale: disponibilità e prezzi variano in base al mercato. La console conferma il prezzo finale prima dell'ordine.
Distribuzione di modelli che rientrano in 32 GB, spesso quantizzati, con vLLM, SGLang o Ollama.
Flussi di lavoro ComfyUI con Flux, SDXL e modelli video.
Fine-tuning di tipo LoRA per modelli più compatti con Unsloth Studio.
Ubuntu 24.04 con CUDA 13.0 per la compilazione e il test di codice GPU.
Verifica la VRAM minima richiesta dal template prima di ordinare; i modelli AI che superano i 32 GB richiedono la quantizzazione o una configurazione multi-GPU.
32 GB di GDDR7 per GPU. In una configurazione multi-GPU, ciascuna GPU dispone dei propri 32 GB.
La RTX 5090 utilizza l'architettura Blackwell e richiede CUDA 12.8 o superiore. I modelli per RTX 5090 utilizzano CUDA 12.8 o 13.0 e vengono offerti esclusivamente server compatibili.
A tariffa oraria mentre è in esecuzione, oppure con ciclo mensile, trimestrale, semestrale o annuale. Lo spazio su disco viene addebitato per GB; per un server a tariffa oraria arrestato viene fatturato solo il disco.
Sì, è possibile eseguire modelli che rientrano in 32 GB di VRAM, spesso tramite quantizzazione, oppure modelli più grandi distribuiti su più GPU quando è disponibile una configurazione multi-GPU.
La disponibilità riflette l'inventario in tempo reale. È possibile riprovare più tardi o scegliere un'altra GPU con VRAM sufficiente nella pagina GPU Cloud.