Sewa GPU NVIDIA H200 NVL mengikut jam
NVIDIA H200 NVL ialah GPU pusat data berseni bina Hopper yang direka untuk beban kerja intensif memori, menawarkan VRAM 140 GB dan lebar jalur memori kira-kira 3884 GB/s. Ia beroperasi pada had kuasa 600 W, menyokong keupayaan pengiraan 9.0, dan memberikan kira-kira 48.3 TFLOPS prestasi pengiraan titik terapung piawai. Anda boleh melaksanakan pemproses ini pada ONIE dengan bil per jam, akses SSH terus dan templat sedia guna.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan H200 NVL
Inferens Model Bahasa Besar
Jalankan model besar dalam memori tanpa sharding, dengan memanfaatkan kapasiti VRAM 140 GB dan lebar jalur memori kira-kira 3884 GB/s.
Penalaan Halus dan Latihan Model
Latih dan sesuaikan model pembelajaran mendalam menggunakan keupayaan pengiraan Hopper 9.0 dan memori GPU yang luas untuk saiz kelompok yang besar.
Pemprosesan Kelompok Berthroughput Tinggi
Proses set data yang besar dan tetingkap konteks yang panjang dengan cekap menggunakan templat PyTorch/CUDA, vLLM, atau Ollama yang telah dikonfigurasi.
Pengkomputeran Saintifik dan Simulasi
Jalankan simulasi pusat data yang kompleks yang memerlukan kira-kira 48.3 TFLOPS prestasi titik terapung piawai dan memori terbina dalam yang besar.
Adakah ini GPU yang sesuai untuk anda?
Pilih H200 NVL apabila kekangan utama anda ialah kapasiti VRAM dan lebar jalur memori, terutamanya untuk menghoskan model besar pada satu kad. Jika anda menjalankan inferens yang lebih ringan, penjanaan imej standard, atau tugas pembangunan yang tidak memerlukan memori 140 GB, stesen kerja atau GPU pengguna yang lebih kecil ialah pilihan yang lebih praktikal.
Bandingkan dengan GPU serupa
Soalan lazim
Mengapa pilih H200 NVL berbanding GPU Hopper standard?
H200 NVL menyediakan VRAM 140 GB dan lebar jalur memori kira-kira 3884 GB/s, yang lebih tinggi daripada kapasiti dan lebar jalur memori kad generasi Hopper yang lebih awal. Ini membolehkan model dan tetingkap konteks yang lebih besar muat pada satu GPU.
Adakah H200 NVL sesuai untuk penyajian LLM dengan vLLM atau Ollama?
Ya, kumpulan memori 140 GB dan lebar jalur memori yang tinggi menjadikannya sesuai untuk menyajikan model bahasa besar. ONIE menyediakan templat sedia guna untuk vLLM dan Ollama bagi membantu anda bermula dengan cepat.
Apakah persekitaran perisian dan kaedah akses yang tersedia?
Setiap instans termasuk akses SSH penuh untuk konfigurasi tersuai. Anda juga boleh melancarkan instans dengan templat pra-pasang termasuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI.
Bagaimanakah bil berfungsi untuk H200 NVL pada ONIE?
Instans dibil secara per jam. Anda hanya membayar untuk tempoh instans H200 NVL anda aktif.
Sewa H200 NVL mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa H200 NVL