Sewa GPU NVIDIA H100 SXM mengikut jam
Kad GPU pusat data NVIDIA H100 SXM berasaskan seni bina Hopper, dilengkapi 80 GB VRAM dan reka bentuk kuasa terma 700 W. Ia menyampaikan kira-kira 53.5 TFLOPS pengiraan titik terapung standard dan lebar jalur memori kira-kira 2869 GB/s, serta menyokong kemampuan pengiraan CUDA 9.0. Sewa di ONIE dengan bilingan per jam, akses SSH penuh dan templat sedia untuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan H100 SXM
Inferens Model Bahasa Besar
Lancarkan model bahasa yang menuntut ke dalam pengeluaran dengan memanfaatkan kapasiti VRAM 80 GB dan kira-kira 2869 GB/s lebar jalur memori melalui templat vLLM atau Ollama.
Penalaan Halus Pembelajaran Mendalam
Latih dan tala halus rangkaian neural menggunakan seni bina Hopper dan kemampuan pengiraan CUDA 9.0 dengan persekitaran PyTorch/CUDA yang telah dikonfigurasi terlebih dahulu.
Pemprosesan Kelompok Berkapasiti Tinggi
Jalankan pemprosesan data dan beban kerja simulasi yang intensif yang mendapat manfaat daripada kira-kira 53.5 TFLOPS prestasi pengiraan dalam faktor bentuk pusat data 700 W.
Aliran Kerja Media Generatif Berat
Laksanakan saluran paip ComfyUI yang kompleks dan model resapan dengan saiz kelompok yang besar, yang muat dengan selesa dalam kumpulan memori 80 GB.
Adakah ini GPU yang sesuai untuk anda?
Pilih H100 SXM apabila beban kerja latihan atau inferens anda memerlukan memori pusat data 80 GB berlebar jalur tinggi serta ciri seni bina Hopper. Stesen kerja yang lebih kecil atau GPU pengguna lebih praktikal untuk pembangunan ringan atau model kecil, manakala GPU pusat data yang lebih baharu atau berkapasiti lebih tinggi lebih sesuai jika satu contoh tidak dapat memuatkan keseluruhan model anda dalam 80 GB VRAM.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah H100 SXM sesuai untuk penalaan halus dan inferens LLM?
Ya, kapasiti VRAM 80 GB dan lebar jalur memori kira-kira 2869 GB/s menjadikannya sesuai untuk menyajikan dan menala halus model bahasa besar. Anda boleh mula serta-merta di ONIE menggunakan templat sedia untuk vLLM, Ollama atau PyTorch/CUDA.
Bagaimanakah varian SXM berbanding GPU pusat data atau stesen kerja yang berkuasa lebih rendah?
H100 SXM beroperasi pada reka bentuk kuasa terma 700 W, membolehkannya mengekalkan prestasi pengiraan dan lebar jalur memori yang lebih tinggi berbanding varian PCIe pusat data atau kad stesen kerja. Jika beban kerja anda tidak memenuhi kira-kira 53.5 TFLOPS pengiraan atau 80 GB memori, GPU yang lebih kecil mungkin sudah mencukupi.
Apakah keserasian perisian yang disediakan oleh kemampuan pengiraan CUDA 9.0?
Kemampuan pengiraan 9.0 menandakan sokongan perkakasan untuk arahan dan ciri seni bina NVIDIA Hopper. Templat PyTorch/CUDA yang telah dikonfigurasi kami sedia digunakan sepenuhnya pada perkakasan ini tanpa persediaan pemacu secara manual.
Bagaimanakah bilingan dan akses contoh berfungsi di ONIE?
Contoh dibil secara per jam sepanjang tempoh sewaan anda. Selepas dilancarkan, anda boleh menyambung terus ke persekitaran anda melalui akses SSH atau menggunakan alat pra-pasang seperti ComfyUI.
Sewa H100 SXM mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa H100 SXM