GPU Cloud · NVIDIA · Ampere

Sewa GPU NVIDIA RTX 3060 Ti mengikut jam

NVIDIA RTX 3060 Ti ialah GPU pengguna berseni bina Ampere dengan VRAM 8 GB dan kemampuan pengkomputeran 8.6. GPU ini menawarkan kira-kira 15.7 TFLOPS pengkomputeran titik apungan tunggal dan lebar jalur memori kira-kira 395 GB/s dalam had kuasa 200 W. Di ONIE, anda boleh menyewa GPU ini dengan bil setiap jam, akses SSH, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.

Spesifikasi

VRAM bagi setiap GPU

8 GB

Seni bina

NVIDIA Ampere

Keupayaan pengiraan

8.6

Pengiraan FP32

≈ 15.7 TFLOPS

Lebar jalur memori

≈ 395 GB/s

Had kuasa

200 W

Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.

Konfigurasi yang tersedia

Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.

Memuatkan harga secara langsung…

Kegunaan RTX 3060 Ti

Inferens Model Bahasa Ringkas

Jalankan model bahasa kecil yang dikuantisasi menggunakan templat Ollama atau vLLM pra-konfigurasi dalam had VRAM 8 GB.

Penjanaan Imej Standard

Jana imej dengan aliran kerja ComfyUI yang muat dengan selesa dalam penimbal memori 8 GB.

Prototaip dan Nyahpepijat PyTorch

Bangunkan dan uji kod CUDA pada GPU Ampere dengan kemampuan pengkomputeran 8.6 sebelum meningkat ke perkakasan yang lebih besar.

Penalaan Halus Model Ringan

Lakukan penalaan halus cekap parameter atau latih rangkaian neural ringkas menggunakan kira-kira 15.7 TFLOPS pengkomputeran.

Adakah ini GPU yang sesuai untuk anda?

Pilih RTX 3060 Ti untuk pembangunan, prototaip, dan beban kerja inferens yang muat dalam 8 GB VRAM. Pilih GPU dengan memori yang lebih besar jika model atau saiz batch anda melebihi 8 GB, atau GPU pengguna yang lebih kecil untuk paparan asas atau tugas pengkomputeran yang minimum.

Bandingkan dengan GPU serupa

GPUVRAM bagi setiap GPUSeni binaPengiraan FP32Dari / jamButiran
RTX 3060 Ti8 GBAmpere≈ 15.7 TFLOPS—
RTX 30708 GBAmpere≈ 19.8 TFLOPS—Butiran
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—Butiran
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Butiran

Soalan lazim

Adakah RTX 3060 Ti sesuai untuk inferens LLM dan penjanaan imej?

Dengan VRAM 8 GB dan lebar jalur memori kira-kira 395 GB/s, GPU ini mengendalikan model bahasa ringkas yang dikuantisasi serta aliran kerja penjanaan imej resolusi standard. Model yang lebih besar atau saluran paip ComfyUI yang kompleks memerlukan GPU dengan kapasiti memori yang lebih besar.

Bagaimanakah RTX 3060 Ti berbanding GPU setara?

Sebagai kad Ampere pengguna dengan VRAM 8 GB dan kira-kira 15.7 TFLOPS pengkomputeran titik apungan tunggal, ia menawarkan pengkomputeran yang lebih banyak berbanding kad pengguna peringkat permulaan, tetapi dengan memori yang lebih sedikit berbanding GPU pengguna peringkat lebih tinggi atau GPU stesen kerja. Jika beban kerja anda terhad oleh memori melebihi 8 GB, pertimbangkan untuk menaik taraf ke kad dengan VRAM yang lebih besar.

Apakah templat perisian dan kaedah akses yang disertakan?

Penyewaan di ONIE termasuk akses SSH penuh ke instans anda. Anda boleh mula menggunakannya dengan segera menggunakan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.

Bagaimanakah bil untuk RTX 3060 Ti berfungsi?

ONIE menggunakan bil setiap jam untuk semua instans GPU. Anda hanya membayar untuk masa instans anda aktif.

Sewa RTX 3060 Ti mengikut jam

Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.

Sewa RTX 3060 Ti

Semua GPU →