GPU Cloud · NVIDIA · Ampere

Sewa GPU NVIDIA RTX 3090 Ti per jam

NVIDIA RTX 3090 Ti adalah GPU konsumen berarsitektur Ampere yang dilengkapi dengan VRAM 24 GB dan daya desain termal (TDP) 450 W. GPU ini menghasilkan komputasi presisi tunggal sekitar 36.4 TFLOPS dan bandwidth memori sekitar 865 GB/s, dengan dukungan kapabilitas komputasi CUDA 8.6. Di ONIE, Anda dapat menyewa perangkat keras ini dengan sistem tagihan per jam, akses SSH langsung, dan templat perangkat lunak yang telah dikonfigurasi sebelumnya.

Spesifikasi

VRAM per GPU

24 GB

Arsitektur

NVIDIA Ampere

Kemampuan komputasi

8.6

Komputasi FP32

≈ 36.4 TFLOPS

Bandwidth memori

≈ 865 GB/s

Batas daya

450 W

Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.

Konfigurasi yang tersedia

Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.

Memuat harga langsung…

Kegunaan utama RTX 3090 Ti

Inferensi LLM Lokal

Jalankan model bahasa terkuantisasi yang muat dengan nyaman di dalam VRAM 24 GB menggunakan templat vLLM atau Ollama siap pakai.

Alur Kerja Gambar Generatif

Jalankan pipeline difusi yang kompleks dan grafik node kustom dengan templat ComfyUI, memanfaatkan bandwidth memori sekitar 865 GB/s.

Pembuatan Prototipe Deep Learning

Kembangkan dan uji jaringan saraf tiruan di PyTorch dengan kapabilitas komputasi CUDA 8.6 dan komputasi presisi tunggal sekitar 36.4 TFLOPS.

Fine-Tuning LoRA

Latih adaptor ringan dan lakukan fine-tuning pada model visi atau teks berukuran sedang tanpa melampaui batas memori 24 GB.

Apakah ini GPU yang tepat untuk Anda?

RTX 3090 Ti adalah pilihan praktis bagi pengembang dan peneliti yang membutuhkan VRAM 24 GB pada kartu konsumen Ampere untuk inferensi atau tugas pelatihan berskala sedang. Pilih GPU dengan memori lebih rendah jika Anda hanya menjalankan model kecil, atau beralih ke GPU workstation atau pusat data jika beban kerja Anda memerlukan VRAM lebih dari 24 GB atau fitur arsitektur yang lebih baru.

Bandingkan dengan GPU serupa

GPUVRAM per GPUArsitekturKomputasi FP32Mulai / jamDetail
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—
RTX 309024 GBAmpere≈ 35.4 TFLOPS—Detail
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Detail
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Detail

Pertanyaan yang sering diajukan

Apakah RTX 3090 Ti cocok untuk inferensi LLM dan pembuatan gambar?

Ya, VRAM 24 GB dan bandwidth memori sekitar 865 GB/s menjadikannya sangat cocok untuk menghosting model bahasa berukuran sedang atau terkuantisasi serta menjalankan alur kerja pembuatan gambar. Anda dapat meluncurkan templat yang telah dikonfigurasi sebelumnya untuk vLLM, Ollama, atau ComfyUI guna segera memulai.

Bagaimana perbandingan RTX 3090 Ti dengan GPU konsumen atau workstation yang lebih baru?

Sebagai GPU konsumen generasi Ampere dengan kapabilitas komputasi 8.6, perangkat ini menawarkan kapasitas VRAM 24 GB yang sama seperti kartu konsumen kelas atas yang lebih baru, meskipun arsitektur yang lebih baru umumnya memberikan throughput komputasi dan efisiensi daya yang lebih tinggi dibandingkan desain 450 W miliknya. Jika beban kerja Anda sangat bergantung pada memori dan muat dalam 24 GB, GPU ini tetap menjadi pilihan yang mumpuni.

Bagaimana cara menghubungkan ke instance RTX 3090 Ti saya di ONIE?

Setelah instance Anda berjalan, Anda dapat terhubung langsung melalui SSH untuk kendali baris perintah penuh. Anda juga dapat menerapkan templat siap pakai untuk PyTorch dengan CUDA, vLLM, Ollama, atau ComfyUI.

Bagaimana sistem tagihan untuk menyewa GPU ini?

Instance di ONIE menggunakan sistem tagihan per jam, sehingga Anda hanya membayar untuk waktu saat lingkungan RTX 3090 Ti Anda aktif.

Sewa RTX 3090 Ti per jam

Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.

Sewa RTX 3090 Ti

Semua GPU →