GPU Cloud · NVIDIA · Turing

Sewa GPU NVIDIA RTX 2080 Ti mengikut jam

NVIDIA RTX 2080 Ti ialah GPU pengguna berseni bina Turing yang tersedia untuk disewa mengikut permintaan di ONIE. Ia menggabungkan VRAM 11 GB dengan lebar jalur memori kira-kira 501 GB/s dan prestasi pengiraan titik terapung ketepatan tunggal kira-kira 14.6 TFLOPS. Dengan TDP 250 W dan keupayaan pengiraan 7.5, ia mengendalikan beban kerja pembelajaran mesin, inferens dan grafik yang ringan, dengan bayaran mengikut jam.

Spesifikasi

VRAM bagi setiap GPU

11 GB

Seni bina

NVIDIA Turing

Keupayaan pengiraan

7.5

Pengiraan FP32

≈ 14.6 TFLOPS

Lebar jalur memori

≈ 501 GB/s

Had kuasa

250 W

Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.

Konfigurasi yang tersedia

Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.

Memuatkan harga secara langsung…

Kegunaan RTX 2080 Ti

Inferens LLM Terkuantisasi

Jalankan model bahasa yang padat atau terkuantisasi yang muat dalam VRAM 11 GB menggunakan templat Ollama atau vLLM sedia ada.

Aliran Kerja Penjanaan Imej

Gunakan ComfyUI untuk menjana imej dan menguji saluran paip difusi yang beroperasi dengan selesa dalam jejak memori 11 GB.

Pembangunan Prototaip Pembelajaran Mendalam

Tulis, nyahpepijat dan uji kod PyTorch dan CUDA pada GPU Turing dengan keupayaan pengiraan 7.5 sebelum menskalakan ke perkakasan yang lebih besar.

Pemprosesan Data Berkelompok

Manfaatkan prestasi titik terapung ketepatan tunggal kira-kira 14.6 TFLOPS dan lebar jalur memori kira-kira 501 GB/s untuk saluran paip data dan pemaparan yang dipecut GPU.

Adakah ini GPU yang sesuai untuk anda?

Pilih RTX 2080 Ti untuk pembangunan, inferens model yang lebih kecil dan tugas latihan sederhana yang muat dalam VRAM 11 GB. Pilih GPU dengan memori yang lebih besar dan seni bina yang lebih baharu untuk latihan berskala besar atau model yang tidak dikuantisasi, atau beralih ke kad pengguna yang lebih kecil untuk penyahpepijatan asas.

Bandingkan dengan GPU serupa

GPUVRAM bagi setiap GPUSeni binaPengiraan FP32Dari / jamButiran
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Butiran
RTX 306012 GBAmpere≈ 12 TFLOPS—Butiran
RTX 3060 Ti8 GBAmpere≈ 15.7 TFLOPS—Butiran

Soalan lazim

Adakah RTX 2080 Ti sesuai untuk inferens LLM dan penjanaan imej?

Ya, VRAM 11 GB dan lebar jalur memori kira-kira 501 GB/s membolehkannya menjalankan model bahasa yang padat atau terkuantisasi serta model difusi standard. Untuk model yang melebihi 11 GB atau yang memerlukan ciri seni bina yang lebih baharu selain keupayaan pengiraan 7.5, pertimbangkan untuk menyewa GPU dengan memori yang lebih tinggi.

Persekitaran perisian apa yang tersedia apabila saya menyewa GPU ini?

Anda mendapat akses SSH penuh ke instans anda dan boleh melancarkan templat sedia termasuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI. Kad ini menyokong beban kerja CUDA yang serasi dengan keupayaan pengiraan 7.5.

Bagaimanakah RTX 2080 Ti berbanding GPU yang lebih baharu atau lebih besar?

Sebagai kad pengguna generasi Turing dengan VRAM 11 GB dan prestasi pengiraan titik terapung ketepatan tunggal kira-kira 14.6 TFLOPS, ia menawarkan memori yang lebih besar berbanding GPU pengguna peringkat permulaan. Namun, GPU stesen kerja atau pusat data generasi yang lebih baharu menyediakan VRAM yang lebih besar dan lebar jalur memori yang lebih tinggi untuk tugas latihan yang berat.

Bagaimanakah bayaran berfungsi untuk instans RTX 2080 Ti di ONIE?

Instans di ONIE menggunakan bayaran mengikut jam, jadi anda hanya membayar untuk tempoh pelayan GPU anda aktif.

Sewa RTX 2080 Ti mengikut jam

Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.

Sewa RTX 2080 Ti

Semua GPU →