Sewa GPU NVIDIA A40 per jam
NVIDIA A40 adalah GPU pusat data yang dibangun di atas arsitektur Ampere dengan kapabilitas komputasi 8.6 dan VRAM sebesar 45 GB. Di ONIE, kartu ini menghasilkan performa presisi tunggal sekitar 29.9 TFLOPS dan bandwidth memori sekitar 536 GB/s dengan konsumsi daya 300 W. Anda dapat menerapkannya dengan sistem tagihan per jam, akses SSH penuh, serta templat siap pakai termasuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.
Spesifikasi
VRAM per GPU
Arsitektur
Kemampuan komputasi
Komputasi FP32
Bandwidth memori
Batas daya
Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.
Konfigurasi yang tersedia
Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.
Memuat harga langsung…
Kegunaan utama A40
Inferensi Model Bahasa Besar
Jalankan model yang membutuhkan memori hingga 45 GB menggunakan templat vLLM atau Ollama yang telah dikonfigurasi sebelumnya.
Fine-Tuning Deep Learning
Lakukan fine-tuning jaringan saraf tiruan di PyTorch/CUDA dengan VRAM yang memadai untuk ukuran batch dan bobot yang lebih besar.
Alur Kerja Gambar Generatif
Jalankan pipeline difusi yang kompleks dan simpan beberapa checkpoint di memori secara bersamaan menggunakan ComfyUI.
Tugas Komputasi Pusat Data
Manfaatkan komputasi presisi tunggal sekitar 29.9 TFLOPS dan bandwidth memori sekitar 536 GB/s untuk beban kerja simulasi dan rendering.
Apakah ini GPU yang tepat untuk Anda?
Pilih A40 ketika beban kerja Anda membutuhkan 45 GB VRAM pada arsitektur pusat data Ampere, yang melebihi kapasitas memori konsumen standar. Pilih kartu konsumen yang lebih kecil jika model Anda muat di dalam memori yang lebih sedikit, atau beralih ke GPU pusat data dengan bandwidth yang lebih tinggi jika tugas pelatihan Anda sangat terhambat oleh throughput memori.
Bandingkan dengan GPU serupa
Pertanyaan yang sering diajukan
Apakah NVIDIA A40 cocok untuk inferensi dan fine-tuning LLM?
Ya, kapasitas VRAM 45 GB menjadikan A40 sangat cocok untuk meng-hosting model bahasa berukuran sedang hingga besar dan melakukan fine-tuning yang efisien secara parameter. Anda dapat meluncurkan templat vLLM, Ollama, atau PyTorch/CUDA langsung di ONIE untuk segera mulai bekerja.
Bagaimana perbandingan A40 dengan GPU konsumen yang lebih kecil atau GPU pusat data yang lebih besar?
A40 menyediakan 45 GB VRAM, memberi Anda ruang memori yang lebih besar dibandingkan GPU konsumen standar untuk beban kerja yang membutuhkan banyak memori. Namun, bandwidth memorinya sekitar 536 GB/s lebih rendah dibandingkan GPU pusat data tingkat lebih tinggi yang menggunakan memori HBM.
Lingkungan perangkat lunak apa saja yang tersedia untuk A40 di ONIE?
A40 mendukung kapabilitas komputasi CUDA 8.6 dan dapat diterapkan dengan templat siap pakai untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI. Akses SSH penuh disertakan sehingga Anda dapat menyesuaikan tumpukan perangkat lunak sesuai kebutuhan.
Bagaimana cara kerja tagihan untuk instans A40?
ONIE menggunakan sistem tagihan per jam untuk semua penyewaan A40. Anda hanya membayar untuk waktu instans Anda aktif, sehingga praktis untuk eksperimen singkat maupun operasional produksi yang lebih lama.
Sewa A40 per jam
Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.
Sewa A40