Sewa GPU NVIDIA L40S mengikut jam
NVIDIA L40S ialah GPU pusat data Ada Lovelace yang tersedia untuk disewa secara awan di ONIE. Ia menyediakan 45 GB VRAM, kira-kira 73.3 TFLOPS pengiraan presisi tunggal (single-precision), dan lebar jalur memori kira-kira 626 GB/s dalam had kuasa 350 W. Menyokong CUDA compute capability 8.9, instans ini mengendalikan beban kerja latihan AI, inferens dan grafik yang mencabar, dengan bayaran per jam.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan L40S
Inferens Model Bahasa Besar
Lancarkan model bahasa yang dikuantisasi atau berketepatan penuh menggunakan templat sedia ada seperti vLLM dan Ollama dalam kapasiti memori 45 GB.
Aliran Kerja Imej Janaan
Jalankan saluran paip difusi yang kompleks dan tugas penjanaan berkelompok dalam ComfyUI dengan memanfaatkan seni bina Ada Lovelace.
Penalaan Halus Pembelajaran Mendalam
Lakukan penalaan halus rangkaian neural dan penyesuai LoRA dalam persekitaran PyTorch/CUDA menggunakan kira-kira 73.3 TFLOPS pengiraan.
Grafik dan Pemaparan Pusat Data
Laksanakan tugas pemaparan dan simulasi tanpa kepala yang mendapat manfaat daripada GPU pusat data dengan kira-kira 626 GB/s lebar jalur memori.
Adakah ini GPU yang sesuai untuk anda?
Pilih L40S apabila beban kerja anda memerlukan 45 GB VRAM dan kebolehpercayaan pusat data, melangkaui kad pengguna biasa. Jika model anda muat dalam memori yang lebih kecil, stesen kerja atau GPU pengguna yang lebih kecil adalah lebih ekonomi, manakala model asas besar yang tidak dikuantisasi memerlukan GPU pusat data dengan memori yang lebih besar.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah NVIDIA L40S sesuai untuk inferens dan penalaan halus LLM?
Ya, dengan 45 GB VRAM dan CUDA compute capability 8.9, L40S sesuai untuk menyajikan model bahasa bersaiz sederhana hingga besar dan menjalankan penalaan halus cekap parameter. Anda boleh melancarkan instans dengan templat vLLM, Ollama, atau PyTorch/CUDA yang telah dikonfigurasi.
Bagaimanakah L40S berbanding GPU pengguna atau GPU pusat data yang lebih besar?
L40S menawarkan lebih banyak VRAM berbanding kad Ada Lovelace pengguna biasa, menjadikannya mampu memuatkan berat model yang lebih besar tanpa offloading. Walau bagaimanapun, lebar jalur memorinya lebih rendah berbanding GPU pusat data khusus pengiraan bermemori tinggi, yang lebih sesuai untuk tugas latihan besar yang terikat memori.
Bagaimana saya menyambung dan mengkonfigurasi instans L40S saya di ONIE?
Anda mendapat akses SSH penuh ke persekitaran anda sebaik sahaja instans dimulakan. Anda juga boleh memilih templat sedia ada termasuk PyTorch/CUDA, ComfyUI, vLLM dan Ollama untuk mula bekerja dengan segera.
Bagaimanakah bil berfungsi untuk L40S?
ONIE menggunakan bayaran per jam untuk semua sewaan L40S. Anda hanya membayar untuk tempoh masa instans anda diperuntukkan.
Sewa L40S mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa L40S