GPU Cloud · NVIDIA · Ada Lovelace

Sewa GPU NVIDIA L40S per jam

NVIDIA L40S adalah GPU pusat data berarsitektur Ada Lovelace yang tersedia untuk penyewaan cloud di ONIE. GPU ini menyediakan VRAM sebesar 45 GB, komputasi presisi tunggal sekitar 73.3 TFLOPS, dan bandwidth memori sekitar 626 GB/s dalam batas daya 350 W. Mendukung kapabilitas komputasi CUDA 8.9, instans ini menangani beban kerja pelatihan AI, inferensi, dan grafis yang berat dengan tagihan per jam.

Spesifikasi

VRAM per GPU

45 GB

Arsitektur

NVIDIA Ada Lovelace

Kemampuan komputasi

8.9

Komputasi FP32

≈ 73.3 TFLOPS

Bandwidth memori

≈ 626 GB/s

Batas daya

350 W

Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.

Konfigurasi yang tersedia

Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.

Memuat harga langsung…

Kegunaan utama L40S

Inferensi Model Bahasa Besar (LLM)

Terapkan model bahasa terkuantisasi atau presisi penuh menggunakan templat siap pakai seperti vLLM dan Ollama dalam kapasitas memori 45 GB.

Alur Kerja Gambar Generatif

Jalankan alur difusi kompleks dan tugas pembuatan batch di ComfyUI dengan memanfaatkan arsitektur Ada Lovelace.

Fine-Tuning Pembelajaran Mendalam

Lakukan fine-tuning jaringan saraf dan adaptor LoRA di lingkungan PyTorch/CUDA menggunakan komputasi sekitar 73.3 TFLOPS.

Grafis dan Rendering Pusat Data

Jalankan tugas rendering tanpa antarmuka (headless) dan simulasi yang diuntungkan oleh GPU pusat data dengan bandwidth memori sekitar 626 GB/s.

Apakah ini GPU yang tepat untuk Anda?

Pilih L40S saat beban kerja Anda membutuhkan VRAM 45 GB dan keandalan pusat data yang melampaui kartu kelas konsumen standar. Jika model Anda muat dalam memori yang lebih kecil, GPU workstation atau konsumen yang lebih kecil akan lebih ekonomis, sedangkan model fondasi besar tanpa kuantisasi memerlukan GPU pusat data dengan memori yang lebih besar.

Bandingkan dengan GPU serupa

GPUVRAM per GPUArsitekturKomputasi FP32Mulai / jamDetail
L40S45 GBAda Lovelace≈ 73.3 TFLOPS—
RTX PRO 500048 GBBlackwell≈ 69.6 TFLOPS—Detail
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—Detail
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—Detail

Pertanyaan yang sering diajukan

Apakah NVIDIA L40S cocok untuk inferensi dan fine-tuning LLM?

Ya, dengan VRAM 45 GB dan kapabilitas komputasi CUDA 8.9, L40S sangat cocok untuk melayani model bahasa berukuran sedang hingga besar dan menjalankan fine-tuning yang efisien parameter. Anda dapat meluncurkan instans dengan templat vLLM, Ollama, atau PyTorch/CUDA yang telah dikonfigurasi sebelumnya.

Bagaimana perbandingan L40S dengan GPU konsumen atau GPU pusat data yang lebih besar?

L40S menawarkan lebih banyak VRAM dibandingkan kartu Ada Lovelace kelas konsumen standar, sehingga mampu menampung bobot model yang lebih besar tanpa offloading. Namun, GPU ini memiliki bandwidth memori yang lebih rendah dibandingkan GPU pusat data khusus komputasi bermemori tinggi, yang lebih disukai untuk pekerjaan pelatihan masif yang terikat memori.

Bagaimana cara menghubungkan dan mengonfigurasi instans L40S saya di ONIE?

Anda mendapatkan akses SSH penuh ke lingkungan Anda segera setelah instans menyala. Anda juga dapat memilih templat siap pakai termasuk PyTorch/CUDA, ComfyUI, vLLM, dan Ollama untuk segera mulai bekerja.

Bagaimana cara kerja tagihan untuk L40S?

ONIE menggunakan tagihan per jam untuk semua penyewaan L40S. Anda hanya membayar untuk waktu saat instans Anda dialokasikan.

Sewa L40S per jam

Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.

Sewa L40S

Semua GPU →