Inferencija LLM-ova
vLLM, SGLang ili Ollama s Open WebUI-jem za posluživanje i testiranje jezičnih modela.
GPU cloud za AI, LLM-ove i renderiranje
Iznajmite NVIDIA GPU poslužitelje po satu ili po razdoblju naplate. Usporedite konfiguracije i cijene u stvarnom vremenu, započnite s gotovim predloškom i povežite se putem SSH-a ili terminala u pregledniku.
- Aktualna ponuda GPU-ova s trenutnim cijenama
- Predlošci za PyTorch, posluživanje LLM-ova i generiranje slika
- SSH i pristup terminalu u pregledniku
S ONIE GPU Cloudom iznajmljujete GPU poslužitelj iz aktualne ponude: odaberete model GPU-a, VRAM i disk, započnete s predloškom poput PyTorcha, vLLM-a, Ollame ili ComfyUI-ja, a zatim se povežete putem SSH-a. Poslužitelji s naplatom po satu naplaćuju se sa stanja na Vašem računu, a zaustavljeni poslužitelj s naplatom po satu naplaćuje se samo za disk.
Dostupni GPU-ovi i aktualne cijene
Stanje zaliha uživo: dostupnost i cijene mijenjaju se s tržištem. Konzola potvrđuje konačnu cijenu prije narudžbe.
Učitavanje aktualnih cijena…
Predlošci spremni za Vaše radno opterećenje
Fino podešavanje
Unsloth Studio za fino podešavanje jezičnih modela na Vašim vlastitim podacima.
Generiranje slika i videa
ComfyUI za Flux, SDXL i video tijekove rada.
Razvoj u PyTorchu i CUDA-i
Slike s PyTorchom i Ubuntuom 24.04 s NVIDIA CUDA-om, dostupne putem SSH-a.
Radna površina ili potpuni VM
Ubuntu radna površina u pregledniku ili potpuni KVM virtualni stroj kada Vam je potreban.
Svaki predložak navodi minimalnu verziju CUDA-e, VRAM i disk; za njega se nude samo kompatibilni GPU-ovi.
Kako iznajmiti GPU
- 01
Odaberite predložak i veličinu diska
- 02
Odaberite kompatibilan GPU iz aktualne ponude
- 03
Potvrdite cijenu i kreirajte poslužitelj iz stanja na Vašem računu
- 04
Povežite se putem SSH-a ili terminala u pregledniku
Kako funkcionira naplata GPU-a
- Po satu: GPU se naplaćuje po satu dok poslužitelj radi. Zaustavljeni poslužitelj s naplatom po satu naplaćuje se samo za svoj disk.
- Razdoblja naplate: mjesečno, tromjesečno, polugodišnje ili godišnje, uz popust prikazan prije plaćanja.
- Pohrana na disku naplaćuje se po GB-u zajedno s cijenom GPU-a.
- Cijene su u USD-u; možete ih prikazati u VND-u po tekućem tečaju.
Često postavljana pitanja
Što mogu pokrenuti na iznajmljenom GPU-u?
Radna opterećenja koja staju u memoriju GPU-a: inferencija i fino podešavanje LLM-ova, generiranje slika i videa, renderiranje i razvoj u CUDA-i. Predlošci za PyTorch, vLLM, SGLang, Ollama, Unsloth i ComfyUI sami instaliraju potreban softver.
Kako se povezati s GPU poslužiteljem?
Putem SSH-a s Vašim ključem ili s terminalom u pregledniku iz konzole. Predlošci za radnu površinu i VM omogućuju i grafički pristup.
Je li cijena fiksna?
Cijene dolaze iz aktualne ponude GPU-ova i mogu se mijenjati. Konzola prikazuje potvrđenu cijenu prije narudžbe, a Vaš poslužitelj naplaćuje se po toj potvrđenoj cijeni.
Što plaćate kada je poslužitelj zaustavljen?
Kod sati naplate, zaustavljeni poslužitelj se tereti samo za disk. Izbrišite poslužitelj kada više ne trebate njegove podatke.
Koji GPU-ovi su dostupni?
Tablica iznad prikazuje trenutno dostupne konfiguracije, uključujući NVIDIA RTX 5090 s 32 GB VRAM-a kada je na zalihama. Dostupnost se mijenja tijekom dana.