Sewa GPU NVIDIA RTX 3090 mengikut jam
NVIDIA RTX 3090 ialah GPU pengguna berseni bina Ampere yang dilengkapi VRAM 24 GB dan keupayaan pengiraan 8.6. Ia menyediakan kira-kira 35.4 TFLOPS pengiraan ketepatan tunggal standard dan kira-kira 805 GB/s lebar jalur memori pada kadar kuasa 350 W. Anda boleh menyewa GPU ini di ONIE dengan bil mengikut jam, akses SSH penuh, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan RTX 3090
Inferens LLM berskala tempatan
Jalankan model bahasa terkuantisasi atau bersaiz sederhana dalam VRAM 24 GB menggunakan templat vLLM atau Ollama yang telah dikonfigurasi.
Aliran kerja penjanaan imej
Lancarkan ComfyUI untuk menjana imej resolusi tinggi dan jalankan saluran paip resapan tersuai tanpa mencapai had memori pada kad pengguna standard.
Penalaan halus dan latihan model
Gunakan templat PyTorch/CUDA untuk melaraskan halus rangkaian neural yang muat dalam had memori 24 GB dan memanfaatkan kira-kira 805 GB/s lebar jalur memori.
Pengiraan CUDA umum
Laksanakan beban kerja tersuai yang disusun untuk keupayaan pengiraan 8.6 dengan prestasi ketepatan tunggal kira-kira 35.4 TFLOPS.
Adakah ini GPU yang sesuai untuk anda?
RTX 3090 sesuai untuk pembangun dan penyelidik yang memerlukan VRAM 24 GB bagi tugasan intensif memori pada kad Ampere segmen pengguna. Pilih GPU yang lebih kecil untuk inferens ringan yang memerlukan memori kurang, atau naik taraf kepada GPU stesen kerja atau pusat data jika model anda melebihi 24 GB VRAM atau memerlukan ciri seni bina terkini.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah RTX 3090 sesuai untuk inferens dan penalaan halus LLM?
Ya, VRAM 24 GB dan lebar jalur memori kira-kira 805 GB/s menjadikannya mampu menjalankan dan melaraskan halus banyak model bahasa berpemberat terbuka. Anda boleh melancarkan templat vLLM, Ollama, atau PyTorch/CUDA terus di ONIE untuk mula bekerja serta-merta.
Bagaimana RTX 3090 berbanding GPU yang lebih kecil atau lebih besar?
Dengan VRAM 24 GB, RTX 3090 menampung berat model dan saiz kelompok yang lebih besar secara ketara berbanding kad pengguna peringkat lebih rendah. Walau bagaimanapun, jika beban kerja anda memerlukan lebih 24 GB memori atau lebih daripada kira-kira 35.4 TFLOPS pengiraan ketepatan tunggal, anda harus mempertimbangkan generasi yang lebih baharu atau GPU segmen pusat data.
Bagaimana saya menyambung ke instans RTX 3090 saya dan apakah perisian yang disertakan?
Anda boleh menyambung terus ke instans anda melalui akses SSH. ONIE menyediakan templat sedia guna untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI supaya anda tidak perlu mengkonfigurasi timbunan perisian secara manual.
Bagaimana bil berfungsi untuk RTX 3090 di ONIE?
Instans dibil mengikut jam. Anda hanya membayar untuk tempoh instans GPU anda aktif.
Sewa RTX 3090 mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa RTX 3090