Sewa GPU NVIDIA CMP 170HX mengikut jam
NVIDIA CMP 170HX ialah GPU pusat data seni bina Ampere dengan VRAM 64 GB dan TDP 250 W. Ia menawarkan lebar jalur memori kira-kira 1516 GB/s serta kira-kira 12.1 TFLOPS pengiraan ketepatan tunggal pada keupayaan pengiraan 8.0. Di ONIE, anda boleh melancarkan kad ini dengan bilingan per jam, akses SSH penuh, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan CMP 170HX
Inferens LLM Terikat Memori
Hidangkan model bahasa besar melalui vLLM atau Ollama dengan memanfaatkan kapasiti VRAM 64 GB dan lebar jalur memori kira-kira 1516 GB/s.
Pembelajaran Mendalam Memori Tinggi
Jalankan beban kerja PyTorch/CUDA yang memerlukan kapasiti memori yang besar dan keupayaan pengiraan 8.0 tanpa membahagikan model merentas peranti.
Aliran Kerja Penjanaan Imej Kompleks
Muatkan berbilang pusat pemeriksaan resapan yang besar dan ControlNet secara serentak dalam ComfyUI dalam kolam memori 64 GB.
Pemprosesan Data dan Simulasi
Laksanakan tugas pusat data yang intensif memori dan mendapat manfaat daripada throughput memori yang tinggi dalam sampul kuasa 250 W.
Adakah ini GPU yang sesuai untuk anda?
Pilih CMP 170HX apabila beban kerja anda terhad oleh kapasiti dan lebar jalur memori dan bukannya oleh pengiraan ketepatan tunggal mentah. Pilih GPU dengan throughput pengiraan yang lebih tinggi jika anda memerlukan lelaran latihan yang lebih pantas, atau pilih kad pengguna yang lebih kecil jika model anda tidak memerlukan VRAM 64 GB.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah CMP 170HX sesuai untuk inferens LLM?
Ya, VRAM 64 GB dan lebar jalur memori kira-kira 1516 GB/s menjadikannya sesuai untuk memuatkan dan menghidangkan model bahasa besar menggunakan templat seperti vLLM dan Ollama. Namun, memandangkan ia menyediakan kira-kira 12.1 TFLOPS pengiraan ketepatan tunggal, pemprosesan prompt akan lebih perlahan berbanding GPU pusat data dengan ketumpatan pengiraan yang lebih tinggi.
Bagaimanakah GPU ini berbanding pemecut pusat data standard?
CMP 170HX menawarkan penimbal memori 64 GB yang besar dan lebar jalur memori yang tinggi, setara dengan kad pusat data Ampere standard, sambil beroperasi pada TDP 250 W. Pertukaran utamanya ialah throughput pengiraan yang lebih rendah, kira-kira 12.1 TFLOPS, menjadikannya lebih sesuai untuk tugas terikat memori berbanding beban kerja pengiraan yang berat.
Apakah persekitaran perisian yang tersedia untuk GPU ini?
Kad ini menyokong keupayaan pengiraan CUDA 8.0 dan boleh dilancarkan di ONIE menggunakan templat pra-konfigurasi termasuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI. Anda juga mendapat akses SSH terus untuk memasang pustaka tersuai dan mengurus persekitaran anda.
Bagaimanakah bilingan berfungsi apabila menyewa CMP 170HX?
Instans di ONIE menggunakan bilingan per jam, jadi anda hanya membayar untuk tempoh GPU anda kekal aktif.
Sewa CMP 170HX mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa CMP 170HX