Inferensi LLM
vLLM, SGLang, atau Ollama dengan Open WebUI untuk menyajikan dan menguji model bahasa.
Sewa server GPU NVIDIA per jam atau per siklus tagihan. Bandingkan konfigurasi dan harga secara langsung, mulai dari templat siap pakai, dan hubungkan melalui SSH atau terminal browser.
Dengan ONIE GPU Cloud, Anda dapat menyewa server GPU dari inventaris langsung: pilih model GPU, VRAM, dan disk, mulai dari templat seperti PyTorch, vLLM, Ollama, atau ComfyUI, lalu hubungkan melalui SSH. Server per jam didebit dari saldo akun Anda, dan server per jam yang dihentikan hanya ditagih untuk penggunaan disknya.
Inventaris langsung: ketersediaan dan harga berubah mengikuti pasar. Konsol akan mengonfirmasi harga akhir sebelum Anda memesan.
vLLM, SGLang, atau Ollama dengan Open WebUI untuk menyajikan dan menguji model bahasa.
Unsloth Studio untuk melakukan fine-tuning pada model bahasa dengan data Anda sendiri.
ComfyUI untuk alur kerja Flux, SDXL, dan video.
Image PyTorch dan Ubuntu 24.04 dengan NVIDIA CUDA, dapat diakses melalui SSH.
Desktop Ubuntu di browser, atau mesin virtual KVM penuh saat Anda membutuhkannya.
Setiap templat mencantumkan versi CUDA, VRAM, dan disk minimumnya; hanya GPU yang kompatibel yang ditawarkan untuk templat tersebut.
Beban kerja yang sesuai dengan kapasitas memori GPU: inferensi dan fine-tuning LLM, pembuatan gambar dan video, rendering, serta pengembangan CUDA. Templat untuk PyTorch, vLLM, SGLang, Ollama, Unsloth, dan ComfyUI akan menginstal perangkat lunaknya untuk Anda.
Melalui SSH dengan kunci Anda, atau melalui terminal di browser Anda dari konsol. Templat desktop dan VM juga menyediakan akses grafis.
Harga berasal dari inventaris GPU langsung dan dapat berubah. Konsol menampilkan harga yang dikonfirmasi sebelum Anda memesan, dan server Anda akan ditagih sesuai dengan harga yang telah dikonfirmasi tersebut.
Dengan tagihan per jam, server yang dihentikan hanya dikenakan biaya untuk disknya. Hapus server ketika Anda tidak lagi membutuhkan datanya.
Tabel di atas mencantumkan konfigurasi yang saat ini tersedia, termasuk NVIDIA RTX 5090 dengan 32 GB VRAM jika stok tersedia. Ketersediaan berubah sepanjang hari.