Inferenza LLM
vLLM, SGLang o Ollama con Open WebUI per eseguire e testare modelli linguistici.
Noleggia server GPU NVIDIA a ore o per ciclo di fatturazione. Confronta configurazioni e prezzi in tempo reale, parti da un modello pronto all'uso e connettiti tramite SSH o dal terminale nel browser.
Con ONIE GPU Cloud noleggi un server GPU dall'inventario in tempo reale: scegli il modello di GPU, la VRAM e il disco, parti da un modello come PyTorch, vLLM, Ollama o ComfyUI, quindi connettiti tramite SSH. I server a ore vengono addebitati sul saldo dell'account e, quando sono arrestati, viene fatturato solo il disco.
Inventario in tempo reale: disponibilità e prezzi variano in base al mercato. La console conferma il prezzo finale prima dell'ordine.
vLLM, SGLang o Ollama con Open WebUI per eseguire e testare modelli linguistici.
Unsloth Studio per il fine-tuning di modelli linguistici sui propri dati.
ComfyUI per flussi di lavoro Flux, SDXL e video.
Immagini PyTorch e Ubuntu 24.04 con NVIDIA CUDA, accessibili tramite SSH.
Un desktop Ubuntu nel browser o una macchina virtuale KVM completa quando necessario.
Ogni modello indica i requisiti minimi di versione CUDA, VRAM e disco; per ciascuno vengono proposte solo le GPU compatibili.
Carichi di lavoro che rientrano nella memoria della GPU: inferenza e fine-tuning di LLM, generazione di immagini e video, rendering e sviluppo CUDA. I modelli per PyTorch, vLLM, SGLang, Ollama, Unsloth e ComfyUI installano il software automaticamente.
Tramite SSH con la tua chiave, oppure con il terminale nel browser dalla console. I modelli desktop e VM offrono anche l'accesso grafico.
I prezzi provengono dall'inventario GPU in tempo reale e possono variare. La console mostra il prezzo confermato prima dell'ordine e il server viene fatturato a tale tariffa.
Con la fatturazione oraria, per un server arrestato viene addebitato solo il disco. Elimina il server quando non hai più bisogno dei dati.
La tabella qui sopra elenca le configurazioni attualmente disponibili, inclusa la NVIDIA RTX 5090 con 32 GB di VRAM quando presente in inventario. La disponibilità varia nel corso della giornata.