GPU Cloud · NVIDIA · Turing

Sewa GPU NVIDIA RTX 2060 mengikut jam

GPU pengguna NVIDIA RTX 2060 pada ONIE berseni bina Turing dengan VRAM 12 GB dan TDP 130 W. Ia menyampaikan kira-kira 6.5 TFLOPS pengiraan ketepatan tunggal dan lebar jalur memori kira-kira 268 GB/s, dengan keupayaan pengiraan CUDA 7.5. Instans termasuk akses SSH, bilingan per jam, dan templat pra-konfigurasi untuk PyTorch/CUDA, ComfyUI, Ollama dan vLLM.

Spesifikasi

VRAM bagi setiap GPU

12 GB

Seni bina

NVIDIA Turing

Keupayaan pengiraan

7.5

Pengiraan FP32

≈ 6.5 TFLOPS

Lebar jalur memori

≈ 268 GB/s

Had kuasa

130 W

Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.

Konfigurasi yang tersedia

Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.

Memuatkan harga secara langsung…

Kegunaan RTX 2060

Penjanaan Imej Peringkat Permulaan

Jalankan aliran kerja ComfyUI dan model resapan standard yang muat dengan selesa dalam VRAM 12 GB.

Inferens Model Bahasa Ringkas

Gunakan model bahasa yang dikuantisasi atau lebih kecil dengan Ollama atau vLLM untuk tugas penjanaan teks yang ringan.

Prototaip dan Nyahpepijat PyTorch

Tulis, uji dan nyahpepijat kod CUDA pada kad seni bina Turing sebelum menskala ke instans yang lebih besar.

Latihan Model Berskala Kecil

Latih rangkaian neural yang sederhana dan saluran paip pembelajaran mesin menggunakan templat PyTorch/CUDA.

Adakah ini GPU yang sesuai untuk anda?

Pilih RTX 2060 12 GB apabila beban kerja anda memerlukan memori yang lebih besar daripada yang ditawarkan oleh kad pengguna peringkat permulaan, tanpa memerlukan throughput pengiraan yang lebih tinggi daripada seni bina yang lebih baharu. Naik taraf kepada generasi yang lebih baharu atau GPU stesen kerja untuk latihan berat, atau pilih GPU yang lebih kecil jika tugas anda memerlukan VRAM yang minimum.

Bandingkan dengan GPU serupa

GPUVRAM bagi setiap GPUSeni binaPengiraan FP32Dari / jamButiran
RTX 206012 GBTuring≈ 6.5 TFLOPS—
GTX TITAN X12 GBMaxwell≈ 6.8 TFLOPS—Butiran
GTX 1070 Ti8 GBPascal≈ 7.4 TFLOPS—Butiran
RTX 2060S8 GBTuring≈ 7.5 TFLOPS—Butiran

Soalan lazim

Adakah RTX 2060 sesuai untuk inferens LLM?

Dengan VRAM 12 GB dan lebar jalur memori kira-kira 268 GB/s, ia boleh mengendalikan model bahasa yang ringkas dan dikuantisasi melalui Ollama atau vLLM. Model yang lebih besar atau penyajian throughput tinggi memerlukan GPU dengan memori dan lebar jalur yang lebih tinggi.

Apakah keserasian perisian yang ditawarkan oleh seni bina Turing?

RTX 2060 menyokong keupayaan pengiraan CUDA 7.5, yang menjalankan rangka kerja standard yang disertakan dalam templat PyTorch/CUDA. Perlu diingat bahawa ia tidak mempunyai sokongan perkakasan untuk jenis data tertentu yang diperkenalkan dalam seni bina yang lebih baharu.

Bagaimanakah GPU pengguna RTX 2060 12 GB ini berbanding GPU pengguna yang lain?

Kapasiti memori 12 GB membolehkannya memuatkan model dan saiz batch yang lebih besar berbanding varian pengguna yang bermemori lebih rendah, walaupun pengiraan kira-kira 6.5 TFLOPS adalah lebih sederhana berbanding kad generasi terkini.

Bagaimanakah bilingan dan akses instans berfungsi pada ONIE?

Instans dibilkan secara per jam. Anda boleh bersambung terus melalui SSH atau melancarkan templat pra-konfigurasi untuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI.

Sewa RTX 2060 mengikut jam

Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.

Sewa RTX 2060

Semua GPU →