Sewa GPU NVIDIA H100 NVL mengikut jam
NVIDIA H100 NVL ialah GPU pusat data berseni bina Hopper yang dilengkapi VRAM 94 GB dan keupayaan pengkomputan 9.0. Ia menawarkan kira-kira 48.3 TFLOPS prestasi single-precision dan lebar jalur memori kira-kira 3381 GB/s dalam sampul haba 400 W. Sewa H100 NVL di ONIE dengan bil per jam, akses SSH, dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan H100 NVL
Inferens Model Bahasa Besar
Lancarkan model bahasa berkapasiti tinggi dengan vLLM atau Ollama menggunakan VRAM 94 GB dan lebar jalur memori kira-kira 3381 GB/s untuk penjanaan token yang pantas.
Penalaan Halus Pembelajaran Mendalam
Latih dan tala halus rangkaian neural dalam PyTorch menggunakan ciri seni bina Hopper dan keupayaan pengkomputan 9.0.
Penjanaan Imej Resolusi Tinggi
Jalankan aliran kerja ComfyUI yang kompleks dan saluran resapan (diffusion) yang besar sepenuhnya dalam memori tanpa memindahkan data ke RAM sistem.
Pengkomputan Saintifik dan Simulasi
Laksanakan beban kerja pusat data yang intensif memori yang mendapat manfaat daripada kira-kira 48.3 TFLOPS kuasa pengkomputan single-precision.
Adakah ini GPU yang sesuai untuk anda?
Pilih H100 NVL apabila beban kerja AI atau pengkomputan anda memerlukan memori lebih daripada yang disediakan oleh kad pusat data standard, sehingga 94 GB VRAM. GPU stesen kerja atau GPU pengguna yang lebih kecil lebih sesuai untuk inferens ringan dan pembangunan, manakala persediaan berbilang GPU atau peringkat memori yang lebih besar diperlukan jika model anda melebihi 94 GB.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah H100 NVL sesuai untuk inferens LLM dan penalaan halus?
Ya, VRAM 94 GB dan lebar jalur memori kira-kira 3381 GB/s menjadikannya sesuai untuk menyajikan dan menala halus model bahasa besar yang tidak muat pada GPU pusat data yang lebih kecil.
Bagaimana H100 NVL berbanding varian H100 standard?
H100 NVL menawarkan kapasiti VRAM 94 GB yang diperluas dan sampul kuasa 400 W, memberikan ruang memori tambahan berbanding konfigurasi pusat data Hopper standard.
Templat perisian apa yang tersedia di ONIE untuk GPU ini?
Anda boleh melancarkan H100 NVL menggunakan templat pra-konfigurasi untuk PyTorch/CUDA, vLLM, Ollama, dan ComfyUI, yang semuanya menyokong keupayaan pengkomputan 9.0.
Bagaimana bil dan akses berfungsi apabila menyewa H100 NVL?
Instans di ONIE menggunakan bil per jam dan menyediakan akses SSH terus supaya anda boleh mengurus persekitaran dan aliran kerja anda dengan segera.
Sewa H100 NVL mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa H100 NVL