Sewa GPU NVIDIA H100 SXM per jam
NVIDIA H100 SXM adalah GPU pusat data berarsitektur Hopper yang dilengkapi dengan VRAM 80 GB dan batas daya 700 W. GPU ini menghadirkan komputasi floating-point standar sekitar 53.5 TFLOPS dan bandwidth memori sekitar 2869 GB/s, serta mendukung kapabilitas komputasi CUDA 9.0. Sewa di ONIE dengan tagihan per jam, akses SSH penuh, dan templat siap pakai untuk PyTorch/CUDA, vLLM, Ollama, serta ComfyUI.
Spesifikasi
VRAM per GPU
Arsitektur
Kemampuan komputasi
Komputasi FP32
Bandwidth memori
Batas daya
Nilai dilaporkan oleh penyedia infrastruktur untuk mesin yang saat ini terdaftar; performa sebenarnya bervariasi tergantung mesin.
Konfigurasi yang tersedia
Stok dan harga langsung, diperbarui terus-menerus. Harga akhir dikonfirmasi sebelum Anda memesan.
Memuat harga langsung…
Kegunaan utama H100 SXM
Inferensi Large Language Model
Terapkan model bahasa berskala besar ke dalam produksi menggunakan kapasitas VRAM 80 GB dan bandwidth memori sekitar 2869 GB/s melalui templat vLLM atau Ollama.
Fine-Tuning Deep Learning
Latih dan lakukan fine-tuning jaringan saraf menggunakan arsitektur Hopper serta kapabilitas komputasi CUDA 9.0 dengan lingkungan PyTorch/CUDA yang telah dikonfigurasi sebelumnya.
Pemrosesan Batch Throughput Tinggi
Jalankan pemrosesan data intensif dan beban kerja simulasi yang diuntungkan oleh performa komputasi sekitar 53.5 TFLOPS dalam form factor pusat data 700 W.
Alur Kerja Media Generatif Berat
Jalankan pipeline ComfyUI yang kompleks dan model difusi dengan ukuran batch besar yang muat dengan leluasa di dalam kapasitas memori 80 GB.
Apakah ini GPU yang tepat untuk Anda?
Pilih H100 SXM saat beban kerja pelatihan atau inferensi Anda memerlukan memori pusat data ber-bandwidth tinggi sebesar 80 GB serta fitur arsitektur Hopper. GPU workstation yang lebih kecil atau GPU konsumen adalah pilihan yang lebih praktis untuk pengembangan ringan atau model berukuran kecil, sedangkan GPU pusat data yang lebih baru atau berkapasitas lebih tinggi lebih disarankan jika satu instance tidak dapat menampung seluruh model Anda dalam VRAM 80 GB.
Bandingkan dengan GPU serupa
Pertanyaan yang sering diajukan
Apakah H100 SXM cocok untuk fine-tuning dan inferensi LLM?
Ya, VRAM sebesar 80 GB dan bandwidth memori sekitar 2869 GB/s menjadikannya sangat cocok untuk menyajikan maupun melakukan fine-tuning pada model bahasa besar (LLM). Anda dapat segera memulai di ONIE menggunakan templat siap pakai untuk vLLM, Ollama, atau PyTorch/CUDA.
Bagaimana perbandingan varian SXM dengan GPU pusat data berdaya lebih rendah atau GPU workstation?
H100 SXM beroperasi pada daya desain termal (TDP) 700 W, yang memungkinkannya mempertahankan performa komputasi dan bandwidth memori yang lebih tinggi dibandingkan varian pusat data PCIe atau kartu workstation. Jika beban kerja Anda tidak memaksimalkan sekitar 53.5 TFLOPS komputasi atau 80 GB memori, GPU yang lebih kecil mungkin sudah mencukupi.
Kompatibilitas perangkat lunak apa yang disediakan oleh kapabilitas komputasi CUDA 9.0?
Kapabilitas komputasi 9.0 menunjukkan dukungan perangkat keras untuk instruksi dan fitur arsitektur NVIDIA Hopper. Templat PyTorch/CUDA kami yang telah dikonfigurasi sebelumnya siap memanfaatkan perangkat keras ini tanpa pengaturan driver secara manual.
Bagaimana cara kerja tagihan dan akses instance di ONIE?
Instance ditagih per jam selama durasi penyewaan Anda. Setelah diterapkan, Anda dapat terhubung langsung ke lingkungan Anda melalui akses SSH atau berinteraksi dengan alat yang telah terinstal sebelumnya seperti ComfyUI.
Sewa H100 SXM per jam
Buat akun, pilih konfigurasi, dan hubungkan melalui SSH. Tagihan berhenti saat Anda menghapus GPU.
Sewa H100 SXM