Sewa GPU NVIDIA L4 per jam
NVIDIA L4 adalah GPU pusat data berarsitektur Ada Lovelace yang dilengkapi dengan VRAM 22 GB dan batas daya 72 W. GPU ini menghasilkan sekitar 24.2 TFLOPS performa floating-point presisi tunggal dan sekitar 221 GB/s bandwidth memori dengan kemampuan komputasi CUDA 8.9. Sewa di ONIE dengan tagihan per jam, akses SSH penuh, dan templat siap pakai untuk PyTorch/CUDA, vLLM, Ollama, serta ComfyUI.
Spesifikasi
VRAM per GPU
Arsitektur
Kemampuan komputasi
Komputasi FP32
Bandwidth memori
Batas daya
Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.
Konfigurasi yang tersedia
Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.
Memuat harga langsung…
Kegunaan utama L4
Inferensi Model Bahasa
Jalankan model bahasa berukuran kecil hingga menengah atau yang terkuantisasi dalam buffer VRAM 22 GB menggunakan templat vLLM atau Ollama yang telah dikonfigurasi sebelumnya.
Alur Kerja Pembuatan Gambar
Terapkan pipeline ComfyUI yang muat dengan nyaman dalam memori 22 GB sembari memanfaatkan fitur arsitektur Ada Lovelace.
Fine-Tuning Ringan
Jalankan pekerjaan fine-tuning hemat parameter dan pelatihan adaptor di lingkungan PyTorch/CUDA tanpa memerlukan kartu pusat data berdaya tinggi.
Pemrosesan Batch Media dan Visi
Proses inferensi visi komputer dan beban kerja video pada GPU pusat data berdaya 72 W.
Apakah ini GPU yang tepat untuk Anda?
Pilih L4 saat Anda membutuhkan VRAM 22 GB dan kemampuan komputasi Ada Lovelace 8.9 untuk inferensi atau beban kerja pelatihan tingkat menengah. Beralihlah ke GPU pusat data yang lebih besar jika model Anda melebihi 22 GB atau memerlukan bandwidth memori lebih tinggi dari sekitar 221 GB/s, atau pilih kartu yang lebih kecil untuk tugas pengembangan dasar yang membutuhkan lebih sedikit memori.
Bandingkan dengan GPU serupa
Pertanyaan yang sering diajukan
Apakah NVIDIA L4 cocok untuk inferensi LLM?
Ya, VRAM 22 GB memungkinkan Anda menghosting model bahasa kecil dan menengah atau bobot terkuantisasi. Anda dapat meluncurkan templat vLLM atau Ollama di ONIE untuk segera mulai menyajikan model.
Bagaimana perbandingan L4 dengan GPU pusat data yang lebih besar?
L4 dirancang untuk efisiensi dengan konsumsi daya 72 W, komputasi presisi tunggal sekitar 24.2 TFLOPS, dan bandwidth memori sekitar 221 GB/s. GPU pusat data yang lebih besar menawarkan lebih banyak VRAM dan bandwidth memori yang lebih tinggi untuk pelatihan berat, sementara L4 berfokus pada inferensi hemat biaya dan beban kerja ringan.
Templat perangkat lunak apa saja yang tersedia untuk L4 di ONIE?
Anda dapat menerapkan L4 menggunakan templat siap pakai untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI. Semua instans menyertakan akses SSH sehingga Anda dapat menyesuaikan lingkungan perangkat lunak dan alur kerja kemampuan komputasi CUDA 8.9 Anda.
Bagaimana cara kerja tagihan untuk instans L4?
ONIE menagih instans L4 secara per jam. Anda hanya membayar untuk waktu instans Anda aktif, menjadikannya praktis baik untuk eksperimen singkat maupun tugas inferensi berkelanjutan.
Sewa L4 per jam
Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.
Sewa L4