Inferensi LLM
Jalankan model yang muat dalam 32 GB, umumnya terkuantisasi, menggunakan vLLM, SGLang, atau Ollama.
Sewa GPU NVIDIA RTX 5090 dengan 32 GB VRAM
Server RTX 5090 dengan memori 32 GB GDDR7 pada arsitektur Blackwell, untuk inferensi LLM, pembuatan gambar, dan pengembangan CUDA. Periksa konfigurasi dan harga terkini, lalu buat server Anda dari konsol.
- 32 GB GDDR7 setiap GPU
- Templat untuk CUDA 12.8 dan 13.0
- Konfigurasi GPU tunggal dan multi-GPU jika tersedia di daftar
ONIE menyewakan server GPU NVIDIA RTX 5090 dengan 32 GB GDDR7 VRAM dari inventaris langsung. Pilih templat yang dibuat untuk CUDA 12.8 atau yang lebih baru, seperti PyTorch, vLLM, atau ComfyUI, pilih ukuran disk, dan bayar per jam atau per siklus tagihan; lalu hubungkan melalui SSH atau terminal browser.
GPU yang tersedia dan harga saat ini
Inventaris langsung: ketersediaan dan harga berubah mengikuti pasar. Konsol akan mengonfirmasi harga akhir sebelum Anda memesan.
Memuat harga saat ini…
Sekilas tentang RTX 5090
- GPU
- NVIDIA GeForce RTX 5090
- Memori
- 32 GB GDDR7 untuk setiap GPU
- Arsitektur
- Blackwell
- Perangkat lunak
- CUDA 12.8 atau lebih baru (tersedia templat dengan CUDA 13.0)
Kegunaan server RTX 5090
Pembuatan gambar dan video
Alur kerja ComfyUI dengan Flux, SDXL, dan model video.
Fine-tuning
Fine-tuning metode LoRA untuk model berukuran lebih kecil dengan Unsloth Studio.
Pengembangan CUDA
Ubuntu 24.04 dengan CUDA 13.0 untuk membangun dan menguji kode GPU.
Periksa VRAM minimum dari suatu templat sebelum memesan; model yang lebih besar dari 32 GB memerlukan kuantisasi atau konfigurasi multi-GPU.
Cara menyewa GPU
- 01
Pilih templat dan ukuran disk
- 02
Pilih GPU yang kompatibel dari inventaris langsung
- 03
Konfirmasi harga dan buat server menggunakan saldo akun Anda
- 04
Hubungkan melalui SSH atau terminal peramban
Cara kerja tagihan GPU
- Per jam: GPU dikenakan biaya per jam selama server berjalan. Server per jam yang dihentikan hanya dikenakan biaya untuk disknya.
- Siklus tagihan: bulanan, triwulanan, semesteran, atau tahunan, dengan diskon yang ditampilkan sebelum Anda membayar.
- Penyimpanan disk dikenakan biaya per GB bersama dengan harga GPU.
- Harga dalam USD; Anda dapat menampilkannya dalam VND sesuai nilai tukar saat ini.
Pertanyaan yang sering diajukan
Berapa besar VRAM yang dimiliki RTX 5090?
32 GB GDDR7 per GPU. Dalam konfigurasi multi-GPU, setiap GPU memiliki 32 GB masing-masing.
Versi CUDA mana yang saya perlukan?
RTX 5090 menggunakan arsitektur Blackwell dan memerlukan CUDA 12.8 atau lebih baru. Templat RTX 5090 menggunakan CUDA 12.8 atau 13.0, dan hanya server yang kompatibel yang ditawarkan.
Bagaimana perhitungan tagihan server RTX 5090?
Per jam selama server berjalan, atau berdasarkan siklus bulanan, triwulanan, semesteran, atau tahunan. Disk dikenakan biaya per GB, dan server per jam yang dihentikan hanya ditagih untuk biaya disknya.
Dapatkah saya menjalankan model bahasa besar (LLM) di dalamnya?
Ya, model yang muat dalam 32 GB VRAM, umumnya dengan kuantisasi, atau model yang lebih besar di beberapa GPU saat konfigurasi multi-GPU tersedia.
Bagaimana jika tidak ada RTX 5090 yang tersedia?
Ketersediaan mengikuti inventaris waktu nyata. Silakan periksa kembali nanti, atau pilih GPU lain dengan VRAM yang mencukupi di halaman GPU Cloud.