Sewa GPU NVIDIA RTX 3090 Ti mengikut jam
NVIDIA RTX 3090 Ti ialah GPU pengguna berseni bina Ampere yang dilengkapi VRAM 24 GB dan reka bentuk kuasa terma 450 W. GPU ini menawarkan kira-kira 36.4 TFLOPS pengiraan ketepatan tunggal dan lebar jalur memori kira-kira 865 GB/s, serta menyokong keupayaan pengiraan CUDA 8.6. Di ONIE, anda boleh menyewa perkakasan ini dengan bil mengikut jam, akses SSH terus dan templat perisian yang telah dikonfigurasi.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan RTX 3090 Ti
Inferens LLM Tempatan
Jalankan model bahasa terkuantisasi yang muat dengan selesa dalam VRAM 24 GB menggunakan templat vLLM atau Ollama sedia dibuat.
Aliran Kerja Imej Generatif
Laksanakan saluran paip resapan yang kompleks dan graf nod tersuai dengan templat ComfyUI, memanfaatkan lebar jalur memori kira-kira 865 GB/s.
Prototaip Pembelajaran Mendalam
Bangunkan dan uji rangkaian neural dalam PyTorch dengan keupayaan pengiraan CUDA 8.6 dan kira-kira 36.4 TFLOPS pengiraan ketepatan tunggal.
Penalaan Halus LoRA
Latih penyesuai ringan dan lakukan penalaan halus model penglihatan atau teks bersaiz sederhana tanpa melebihi had memori 24 GB.
Adakah ini GPU yang sesuai untuk anda?
RTX 3090 Ti ialah pilihan praktikal untuk pembangun dan penyelidik yang memerlukan VRAM 24 GB pada kad pengguna Ampere untuk inferens atau tugas latihan sederhana. Pilih GPU dengan memori yang lebih rendah jika anda hanya menjalankan model kecil, atau naik taraf kepada GPU stesen kerja atau pusat data jika beban kerja anda memerlukan lebih 24 GB VRAM atau ciri seni bina yang lebih baharu.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah RTX 3090 Ti sesuai untuk inferens LLM dan penjanaan imej?
Ya, VRAM 24 GB dan lebar jalur memori kira-kira 865 GB/s menjadikannya sesuai untuk menjalankan model bahasa bersaiz sederhana atau terkuantisasi serta aliran kerja penjanaan imej. Anda boleh melancarkan templat vLLM, Ollama atau ComfyUI yang telah dikonfigurasi untuk mula serta-merta.
Bagaimanakah RTX 3090 Ti berbanding GPU pengguna atau stesen kerja yang lebih baharu?
Sebagai GPU pengguna generasi Ampere dengan keupayaan pengiraan 8.6, ia menawarkan kapasiti VRAM 24 GB yang sama seperti kad pengguna kelas tinggi yang lebih baharu, walaupun seni bina yang lebih baharu umumnya memberikan daya pengiraan dan kecekapan kuasa yang lebih tinggi berbanding reka bentuk 450 W-nya. Jika beban kerja anda terhad sepenuhnya oleh memori dan muat dalam 24 GB, ia kekal sebagai pilihan yang mampu.
Bagaimanakah saya menyambung ke instans RTX 3090 Ti saya di ONIE?
Setelah instans anda berjalan, anda boleh menyambung terus melalui SSH untuk kawalan baris arahan penuh. Anda juga boleh menggunakan templat sedia untuk PyTorch dengan CUDA, vLLM, Ollama atau ComfyUI.
Bagaimanakah bil berfungsi untuk menyewa GPU ini?
Instans di ONIE menggunakan bil mengikut jam, membolehkan anda membayar hanya untuk tempoh persekitaran RTX 3090 Ti anda aktif.
Sewa RTX 3090 Ti mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa RTX 3090 Ti