Sewa GPU NVIDIA RTX 3080 mengikut jam
NVIDIA RTX 3080 ialah GPU pengguna berseni bina Ampere yang dilengkapi VRAM 10 GB. Ia menawarkan kira-kira 29.5 TFLOPS prestasi titik terapung standard dan lebar jalur memori kira-kira 656 GB/s. Di ONIE, anda boleh melaksanakan GPU ini dengan bil per jam, akses SSH dan templat sedia ada.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan RTX 3080
Inferens LLM Padat
Jalankan model bahasa terkuantisasi yang muat dalam VRAM 10 GB menggunakan templat Ollama atau vLLM yang telah dikonfigurasi terlebih dahulu.
Aliran Kerja Penjanaan Imej
Laksanakan saluran paip difusi dalam ComfyUI dengan memanfaatkan lebar jalur memori kira-kira 656 GB/s untuk output imej yang stabil.
Prototaip Model PyTorch
Bangunkan dan uji kod pembelajaran mendalam pada kad Ampere dengan keupayaan pengiraan 8.6 sebelum meningkatkan skala.
Tugasan Pengiraan CUDA
Pecut beban kerja tersuai yang menggunakan kira-kira 29.5 TFLOPS prestasi titik terapung standard.
Adakah ini GPU yang sesuai untuk anda?
Pilih RTX 3080 untuk prototaip, penjanaan imej dan inferens berskala kecil apabila VRAM 10 GB dan pengiraan Ampere yang kukuh sudah mencukupi. Pilih GPU dengan memori yang lebih besar jika model atau saiz batch anda melebihi 10 GB, atau pilih kad pengguna berspesifikasi lebih rendah untuk skrip ringan yang tidak memerlukan kira-kira 29.5 TFLOPS.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah RTX 3080 sesuai untuk inferens LLM dan penjanaan imej?
Ya, VRAM 10 GB dan lebar jalur memori kira-kira 656 GB/s mampu mengendalikan penjanaan imej standard dalam ComfyUI serta model bahasa terkuantisasi melalui Ollama atau vLLM. Model besar yang tidak dikuantisasi memerlukan GPU dengan kapasiti memori yang lebih tinggi.
Apakah templat perisian yang tersedia untuk RTX 3080 di ONIE?
Anda boleh melancarkan instans dengan templat sedia ada untuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI. Kad ini menyokong keupayaan pengiraan 8.6 untuk keserasian yang luas dengan rangka kerja pembelajaran mesin moden.
Bilakah saya perlu beralih daripada RTX 3080 kepada GPU yang lebih besar?
RTX 3080 menyediakan pengiraan kelas pengguna yang kukuh pada kira-kira 29.5 TFLOPS dalam had kuasa 380 W, tetapi terhad kepada VRAM 10 GB. Jika kumpulan latihan atau berat model anda menyebabkan ralat kehabisan memori, GPU kelas stesen kerja atau pusat data dengan penimbal memori yang lebih besar ialah pilihan yang sesuai.
Bagaimanakah bil dan akses berfungsi di ONIE?
Instans dicaj secara per jam semasa aktif. Anda menerima akses SSH penuh untuk mengurus persekitaran anda, serta sebarang antara muka web yang disediakan oleh templat pilihan anda.
Sewa RTX 3080 mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa RTX 3080