GPU Cloud · NVIDIA · Ampere

Sewa GPU NVIDIA RTX 3060 mengikut jam

NVIDIA RTX 3060 ialah GPU seni bina Ampere kelas pengguna yang dilengkapi VRAM 12 GB dan had kuasa 170 W. Ia menyampaikan kira-kira 12.0 TFLOPS prestasi titik apung standard dan lebar jalur memori kira-kira 318 GB/s, serta menyokong keupayaan pengkomputeran CUDA 8.6. Di ONIE, anda boleh menyewa RTX 3060 dengan bil mengikut jam, akses SSH penuh, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.

Spesifikasi

VRAM bagi setiap GPU

12 GB

Seni bina

NVIDIA Ampere

Keupayaan pengiraan

8.6

Pengiraan FP32

≈ 12 TFLOPS

Lebar jalur memori

≈ 318 GB/s

Had kuasa

170 W

Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.

Konfigurasi yang tersedia

Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.

Memuatkan harga secara langsung…

Kegunaan RTX 3060

Inferens LLM Terkuantisasi

Jalankan model bahasa yang kecil atau terkuantisasi dalam had VRAM 12 GB menggunakan templat Ollama atau vLLM yang telah dikonfigurasi terlebih dahulu.

Penjanaan Imej dengan ComfyUI

Laksanakan aliran kerja resapan (diffusion) standard dan saluran sintesis imej yang muat dengan selesa dalam memori 12 GB.

Prototaip dan Nyahpepijat PyTorch

Bangunkan dan uji kod CUDA pada kad Ampere dengan keupayaan pengkomputeran 8.6 sebelum meningkatkan skala beban kerja ke perkakasan yang lebih besar.

Penalaan Halus Model Berskala Kecil

Lakukan penalaan halus cekap parameter pada set data yang sederhana apabila kira-kira 12.0 TFLOPS pengkomputeran sudah memadai.

Adakah ini GPU yang sesuai untuk anda?

Pilih RTX 3060 untuk pembangunan, prototaip, dan tugas inferens ringan yang memerlukan VRAM 12 GB tanpa kos perkakasan pusat data. Pilih GPU yang lebih besar jika model anda melebihi 12 GB atau memerlukan lebar jalur memori lebih tinggi daripada kira-kira 318 GB/s, atau GPU yang lebih kecil jika anda hanya menjalankan skrip ringan dengan keperluan memori yang lebih rendah.

Bandingkan dengan GPU serupa

GPUVRAM bagi setiap GPUSeni binaPengiraan FP32Dari / jamButiran
RTX 306012 GBAmpere≈ 12 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Butiran
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Butiran
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—Butiran

Soalan lazim

Adakah RTX 3060 sesuai untuk inferens LLM dan penjanaan imej?

Ya, VRAM 12 GB sesuai untuk menjalankan model bahasa yang lebih kecil atau terkuantisasi melalui Ollama dan vLLM, serta model resapan standard dalam ComfyUI. Untuk model tanpa kuantisasi yang melebihi 12 GB, anda memerlukan GPU dengan kapasiti memori yang lebih tinggi.

Bagaimana kad Ampere kelas pengguna ini berbanding GPU yang lebih besar?

RTX 3060 menyediakan penimbal memori 12 GB yang luas untuk kad peringkat permulaan, bersama kira-kira 12.0 TFLOPS pengkomputeran dan kira-kira 318 GB/s lebar jalur memori. Beralih kepada GPU kelas pengguna atau stesen kerja yang lebih tinggi memberikan lebar jalur memori yang lebih pantas dan pemprosesan pengkomputeran yang lebih tinggi untuk latihan berat.

Bagaimana saya menyambung dan menyediakan kejadian RTX 3060 saya?

Setiap penyewaan di ONIE termasuk akses SSH terus untuk kawalan baris arahan penuh. Anda juga boleh melancarkan segera menggunakan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, atau ComfyUI.

Bagaimana bil berfungsi untuk RTX 3060 di ONIE?

Kejadian dibil secara sejam semasa penyewaan anda aktif. Ini membolehkan anda menjalankan eksperimen pada kad seni bina Ampere dengan keupayaan pengkomputeran 8.6 dan menamatkan kejadian apabila selesai.

Sewa RTX 3060 mengikut jam

Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.

Sewa RTX 3060

Semua GPU →