Sewa GPU NVIDIA L4 mengikut jam
NVIDIA L4 ialah GPU pusat data seni bina Ada Lovelace yang dilengkapi VRAM 22 GB dan sampul kuasa 72 W. Ia menyampaikan kira-kira 24.2 TFLOPS prestasi titik apungan ketepatan tunggal dan kira-kira 221 GB/s lebar jalur memori dengan keupayaan pengiraan CUDA 8.9. Sewa di ONIE dengan pengebilan setiap jam, akses SSH penuh, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan L4
Inferens Model Bahasa
Jalankan model bahasa kuantisasi atau bersaiz kecil hingga sederhana dalam VRAM 22 GB menggunakan templat vLLM atau Ollama yang telah dikonfigurasi.
Aliran Kerja Penjanaan Imej
Lancarkan saluran ComfyUI yang muat dengan selesa dalam 22 GB memori sambil memanfaatkan ciri seni bina Ada Lovelace.
Penalaan Halus Ringan
Laksanakan tugas penalaan halus cekap parameter dan latihan adapter dalam persekitaran PyTorch/CUDA tanpa memerlukan kad pusat data berkuasa tinggi.
Media dan Visi Berkelompok
Proses inferens penglihatan komputer dan beban kerja video pada GPU pusat data berkadar 72 W.
Adakah ini GPU yang sesuai untuk anda?
Pilih L4 apabila anda memerlukan VRAM 22 GB dan keupayaan pengiraan Ada Lovelace CUDA 8.9 untuk inferens atau beban kerja latihan sederhana. Beralih ke GPU pusat data yang lebih besar jika model anda melebihi 22 GB atau memerlukan lebar jalur memori melebihi kira-kira 221 GB/s, atau pilih kad yang lebih kecil untuk tugas pembangunan asas yang memerlukan memori yang kurang.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah NVIDIA L4 sesuai untuk inferens LLM?
Ya, VRAM 22 GB membolehkan anda menjadi hos model bahasa kecil dan sederhana atau berat kuantisasi. Anda boleh melancarkan templat vLLM atau Ollama di ONIE untuk mula menyajikan model dengan segera.
Bagaimana L4 berbanding GPU pusat data yang lebih besar?
L4 direka untuk kecekapan dengan penggunaan kuasa 72 W, kira-kira 24.2 TFLOPS pengiraan ketepatan tunggal, dan kira-kira 221 GB/s lebar jalur memori. GPU pusat data yang lebih besar menawarkan VRAM dan lebar jalur memori yang lebih tinggi untuk latihan berat, manakala L4 memberi tumpuan kepada inferens dan beban kerja ringan yang kos efektif.
Templat perisian apa yang tersedia untuk L4 di ONIE?
Anda boleh melancarkan L4 menggunakan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI. Semua instans disertakan dengan akses SSH supaya anda boleh menyesuaikan persekitaran perisian dan aliran kerja CUDA keupayaan pengiraan 8.9 anda.
Bagaimana pengebilan untuk instans L4 berfungsi?
ONIE mengebil instans L4 berdasarkan setiap jam. Anda hanya membayar untuk masa instans anda aktif, menjadikannya praktikal untuk kedua-dua eksperimen pendek dan tugas inferens berterusan.
Sewa L4 mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa L4