LLM inferences
vLLM, SGLang vai Ollama ar Open WebUI valodu modeļu apkalpošanai un testēšanai.
Īriet NVIDIA GPU serverus pa stundām vai norēķinu periodiem. Salīdziniet aktuālās konfigurācijas un cenas, sāciet no gatavas veidnes un savienojieties, izmantojot SSH vai pārlūkprogrammas termināli.
Ar ONIE GPU Cloud jūs īrējat GPU serveri no aktuālā pieejamā klāsta: izvēlaties GPU modeli, VRAM un disku, sākat no veidnes, piemēram, PyTorch, vLLM, Ollama vai ComfyUI, un pēc tam savienojaties, izmantojot SSH. Stundas serveri tiek norēķināti no jūsu konta atlikuma, un apturēts stundas serveris tiek norēķināts tikai par disku.
Tiešraides krājumi: pieejamība un cenas mainās atkarībā no tirgus. Konsole apstiprina galīgo cenu pirms pasūtījuma.
vLLM, SGLang vai Ollama ar Open WebUI valodu modeļu apkalpošanai un testēšanai.
Unsloth Studio valodu modeļu precizēšanai ar jūsu pašu datiem.
ComfyUI Flux, SDXL un video darbplūsmām.
PyTorch un Ubuntu 24.04 attēli ar NVIDIA CUDA, pieejami caur SSH.
Ubuntu darbvirsma pārlūkprogrammā vai pilna KVM virtuālā mašīna, kad tā ir nepieciešama.
Katrā veidnē norādīta minimālā CUDA versija, VRAM un disks; tai piedāvājam tikai saderīgas GPU.
Darba slodzes, kas iekļaujas GPU atmiņā: LLM inferences un precizēšana, attēlu un video ģenerēšana, renderēšana un CUDA izstrāde. Veidnes PyTorch, vLLM, SGLang, Ollama, Unsloth un ComfyUI uzstāda programmatūru jūsu vietā.
Caur SSH ar jūsu atslēgu vai ar pārlūkprogrammas termināli no konsoles. Darbvirsmas un VM veidnes nodrošina arī grafisku piekļuvi.
Cenas nāk no aktuālā GPU klāsta un var mainīties. Konsolē pirms pasūtījuma tiek parādīta apstiprinātā cena, un jūsu serveris tiek norēķināts pēc šīs apstiprinātās cenas.
Ar stundu maksājamu serveri, kas ir apturēts, tiek tarificēts tikai par tā diskdzini. Dzēsiet serveri, kad tā dati vairs nav nepieciešami.
Tabulā iepriekš ir norādītas pašlaik pieejamās konfigurācijas, tostarp NVIDIA RTX 5090 ar 32 GB VRAM, kad tas ir noliktavā. Pieejamība visu dienu mainās.