GPU Cloud · NVIDIA · Ampere

Sewa GPU NVIDIA RTX 3080 Ti per jam

NVIDIA RTX 3080 Ti adalah GPU kelas konsumen berarsitektur Ampere yang dilengkapi dengan VRAM 12 GB dan TDP 350 W. Di ONIE, kartu ini menghasilkan komputasi floating-point standar sekitar 35.1 TFLOPS dan bandwidth memori sekitar 787 GB/s. Dengan kapabilitas komputasi CUDA 8.6, GPU ini mampu menangani beban kerja machine learning tingkat menengah, inferensi, serta rendering kreatif.

Spesifikasi

VRAM per GPU

12 GB

Arsitektur

NVIDIA Ampere

Kemampuan komputasi

8.6

Komputasi FP32

≈ 35.1 TFLOPS

Bandwidth memori

≈ 787 GB/s

Batas daya

350 W

Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.

Konfigurasi yang tersedia

Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.

Memuat harga langsung…

Kegunaan utama RTX 3080 Ti

Inferensi LLM Terkuantisasi

Jalankan model bahasa besar yang ringkas dan terkuantisasi dalam kapasitas VRAM 12 GB menggunakan templat siap pakai seperti Ollama atau vLLM.

Pembuatan Gambar dengan ComfyUI

Buat gambar dan uji pipeline difusi menggunakan templat ComfyUI, memanfaatkan sekitar 787 GB/s bandwidth memori untuk pemrosesan yang cepat.

Pembuatan Prototipe Model PyTorch

Kembangkan, debug, dan latih jaringan saraf tiruan skala kecil hingga menengah di PyTorch dan CUDA pada GPU Ampere dengan kapabilitas komputasi 8.6.

Rendering Berakselerasi GPU

Manfaatkan performa komputasi sekitar 35.1 TFLOPS untuk merender adegan dan melakukan baking tekstur yang muat dalam kapasitas memori 12 GB.

Apakah ini GPU yang tepat untuk Anda?

RTX 3080 Ti cocok untuk pengembang dan kreator yang membutuhkan performa komputasi Ampere yang tangguh untuk beban kerja yang muat dengan nyaman dalam VRAM 12 GB. Pilih GPU konsumen yang lebih kecil untuk pembuatan skrip dasar atau inferensi ringan, atau beralih ke GPU dengan VRAM lebih besar jika Anda melakukan fine-tuning model besar atau memuat bobot yang tidak terkuantisasi.

Bandingkan dengan GPU serupa

GPUVRAM per GPUArsitekturKomputasi FP32Mulai / jamDetail
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—Detail
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Detail
RTX 308010 GBAmpere≈ 29.5 TFLOPS—Detail

Pertanyaan yang sering diajukan

Apakah RTX 3080 Ti cocok untuk inferensi dan fine-tuning LLM?

Dengan VRAM 12 GB dan bandwidth memori sekitar 787 GB/s, GPU ini sangat cocok untuk menjalankan model bahasa yang lebih kecil atau terkuantisasi melalui Ollama atau vLLM. Untuk fine-tuning penuh atau menjalankan model lebih besar yang tidak terkuantisasi, disarankan menggunakan GPU dengan kapasitas VRAM yang lebih besar.

Bagaimana perbandingan RTX 3080 Ti dengan GPU konsumen Ampere lain di kelasnya?

RTX 3080 Ti berada di antara RTX 3080 standar dan kartu konsumen bermemori lebih tinggi dalam jajaran Ampere, dengan menawarkan VRAM 12 GB dan komputasi sekitar 35.1 TFLOPS. Jika beban kerja Anda bergantung pada komputasi dan muat dalam 12 GB, kartu ini menawarkan throughput yang kuat tanpa harus beralih ke tingkatan memori yang lebih tinggi.

Bagaimana cara menghubungkan ke instans RTX 3080 Ti di ONIE?

Anda dapat terhubung langsung melalui akses SSH setelah instans Anda berjalan. ONIE juga menyediakan templat pra-konfigurasi untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI sehingga Anda dapat langsung mulai bekerja.

Bagaimana sistem tagihan untuk GPU ini?

Instans di ONIE menggunakan sistem tagihan per jam. Anda hanya dikenakan biaya selama instans RTX 3080 Ti Anda aktif.

Sewa RTX 3080 Ti per jam

Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.

Sewa RTX 3080 Ti

Semua GPU →