Inferență LLM
vLLM, SGLang sau Ollama cu Open WebUI, pentru a servi și testa modele de limbaj.
Închiriați servere GPU NVIDIA pe oră sau pe ciclu de facturare. Comparați configurații și prețuri live, porniți de la un șablon gata făcut și conectați-vă prin SSH sau prin terminalul din browser.
Cu ONIE GPU Cloud închiriați un server GPU din inventarul live: alegeți modelul GPU, VRAM-ul și discul, porniți de la un șablon precum PyTorch, vLLM, Ollama sau ComfyUI, apoi conectați-vă prin SSH. Serverele orare sunt taxate din soldul contului dumneavoastră, iar un server orar oprit este facturat doar pentru disc.
Stoc în timp real: disponibilitatea și prețurile se modifică în funcție de piață. Consola confirmă prețul final înainte de comandă.
vLLM, SGLang sau Ollama cu Open WebUI, pentru a servi și testa modele de limbaj.
Unsloth Studio pentru fine-tuning al modelelor de limbaj pe datele dumneavoastră.
ComfyUI pentru fluxuri de lucru Flux, SDXL și video.
Imagini PyTorch și Ubuntu 24.04 cu NVIDIA CUDA, accesibile prin SSH.
Un desktop Ubuntu în browser sau o mașină virtuală KVM completă, atunci când aveți nevoie de ea.
Fiecare șablon indică versiunea minimă CUDA, VRAM-ul și discul necesar; pentru fiecare șablon sunt oferite doar GPU-urile compatibile.
Sarcini care încap în memoria GPU: inferență și fine-tuning LLM, generare de imagini și video, randare și dezvoltare CUDA. Șabloanele pentru PyTorch, vLLM, SGLang, Ollama, Unsloth și ComfyUI instalează software-ul în locul dumneavoastră.
Prin SSH, cu cheia dumneavoastră, sau prin terminalul din browser, din consolă. Șabloanele desktop și VM oferă și acces grafic.
Prețurile provin din inventarul GPU live și pot varia. Consola afișează prețul confirmat înainte de comandă, iar serverul dumneavoastră este facturat la acest preț confirmat.
Cu facturare pe oră, un server oprit este taxat doar pentru disc. Ștergeți serverul atunci când nu mai aveți nevoie de datele sale.
Tabelul de mai sus enumeră configurațiile disponibile în prezent, inclusiv NVIDIA RTX 5090 cu 32 GB VRAM, atunci când este în stoc. Disponibilitatea se modifică pe parcursul zilei.