GPU Cloud · NVIDIA · Hopper

იქირავეთ NVIDIA H100 SXM GPU საათობრივად

NVIDIA H100 SXM არის Hopper არქიტექტურის მონაცემთა ცენტრის GPU, რომელსაც აქვს 80 GB VRAM და 700 W სიმძლავრის ბიუჯეტი. ის უზრუნველყოფს დაახლოებით 53.5 TFLOPS სტანდარტული მცურავმძიმიანი გამოთვლის სიმძლავრეს და დაახლოებით 2869 GB/s მეხსიერების გამტარუნარიანობას და მხარს უჭერს CUDA გამოთვლით შესაძლებლობას 9.0. ქირაობა ONIE-ზე შესაძლებელია საათობრივი ანგარიშსწორებით, სრული SSH წვდომით და მზა შაბლონებით PyTorch/CUDA, vLLM, Ollama და ComfyUI-სთვის.

სპეციფიკაციები

VRAM თითო GPU-ზე

80 GB

არქიტექტურა

NVIDIA Hopper

გამოთვლითი შესაძლებლობა

9.0

FP32 გამოთვლები

≈ 53.5 TFLOPS

მეხსიერების გამტარუნარიანობა

≈ 2,869 GB/s

სიმძლავრის ლიმიტი

700 W

მნიშვნელობები მოწოდებულია ინფრასტრუქტურის პროვაიდერის მიერ ამჟამად ჩამონათვალში არსებული მანქანებისთვის; რეალური მუშაობა მანქანის მიხედვით განსხვავდება.

ხელმისაწვდომი კონფიგურაციები

რეალურ დროში განახლებადი მარაგი და ფასები. საბოლოო ფასი დადასტურდება შეკვეთამდე.

რეალური ფასები იტვირთება…

რისთვისაა კარგი H100 SXM

დიდი ენობრივი მოდელების ინფერენსი

გაუშვით მძიმე ენობრივი მოდელები წარმოებაში 80 GB VRAM-ისა და დაახლოებით 2869 GB/s მეხსიერების გამტარუნარიანობის გამოყენებით, vLLM ან Ollama შაბლონების საშუალებით.

ღრმა სწავლების დახვეწა

ავარჯიშეთ და დახვეწეთ ნეირონული ქსელები Hopper არქიტექტურისა და CUDA გამოთვლითი შესაძლებლობის 9.0 გამოყენებით, წინასწარ კონფიგურირებულ PyTorch/CUDA გარემოში.

მაღალი გამტარუნარიანობის პაკეტური დამუშავება

შეასრულეთ ინტენსიური მონაცემთა დამუშავებისა და სიმულაციის სამუშაოები, რომლებიც სარგებლობენ დაახლოებით 53.5 TFLOPS გამოთვლითი სიმძლავრით 700 W მონაცემთა ცენტრის ფორმატში.

მძიმე გენერაციული მედიის სამუშაო პროცესები

გაუშვით რთული ComfyUI პაიფლაინები და დიფუზიური მოდელები დიდი პაკეტის ზომებით, რომლებიც მოთავსდება 80 GB მეხსიერების ფარგლებში.

ეს თქვენთვის სწორი GPU არის?

აირჩიეთ H100 SXM, როდესაც თქვენს ტრენინგის ან ინფერენსის სამუშაოებს სჭირდება 80 GB მაღალი გამტარუნარიანობის მონაცემთა ცენტრის მეხსიერება და Hopper არქიტექტურის შესაძლებლობები. მცირე სამუშაო სადგური ან სამომხმარებლო GPU უფრო პრაქტიკული არჩევანია მსუბუქი განვითარებისა და მცირე მოდელებისთვის, ხოლო უფრო ახალი ან მაღალი ტევადობის მონაცემთა ცენტრის GPU უპირატესია, თუ ერთი ინსტანცია ვერ ათავსებს მთლიან მოდელს 80 GB VRAM-ში.

შეადარეთ მსგავს GPU-ებთან

GPUVRAM თითო GPU-ზეარქიტექტურაFP32 გამოთვლებიდან / საათშიდეტალები
H100 SXM80 GBHopper≈ 53.5 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—დეტალები
H100 PCIE80 GBHopper≈ 41 TFLOPS—დეტალები
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—დეტალები

ხშირად დასმული კითხვები

შესაფერისია თუ არა H100 SXM LLM-ის დახვეწისა და ინფერენსისთვის?

დიახ, მისი 80 GB VRAM-ი და დაახლოებით 2869 GB/s მეხსიერების გამტარუნარიანობა მას კარგად ერგება როგორც დიდი ენობრივი მოდელების მომსახურებისთვის, ისე მათი დახვეწისთვის. ONIE-ზე შეგიძლიათ დაუყოვნებლივ დაიწყოთ მზა შაბლონებით vLLM, Ollama ან PyTorch/CUDA-სთვის.

როგორ განსხვავდება SXM ვარიანტი დაბალი სიმძლავრის მონაცემთა ცენტრის ან სამუშაო სადგურის GPU-ებისგან?

H100 SXM მუშაობს 700 W თერმული დიზაინის სიმძლავრით, რაც მას საშუალებას აძლევს, შეინარჩუნოს უფრო მაღალი გამოთვლითი სიმძლავრე და მეხსიერების გამტარუნარიანობა, ვიდრე PCIe მონაცემთა ცენტრის ვარიანტები ან სამუშაო სადგურის ბარათები. თუ თქვენი სამუშაო არ იტვირთება დაახლოებით 53.5 TFLOPS გამოთვლითი სიმძლავრით ან 80 GB მეხსიერებით, შესაძლოა საკმარისი იყოს უფრო მცირე GPU.

რა პროგრამული თავსებადობას უზრუნველყოფს CUDA გამოთვლითი შესაძლებლობა 9.0?

გამოთვლითი შესაძლებლობა 9.0 მიუთითებს NVIDIA Hopper არქიტექტურის ინსტრუქციებისა და ფუნქციების აპარატულ მხარდაჭერაზე. ჩვენი წინასწარ კონფიგურირებული PyTorch/CUDA შაბლონები მზადაა ამ აპარატურის გამოსაყენებლად დრაივერების ხელით დაყენების გარეშე.

როგორ მუშაობს ანგარიშსწორება და ინსტანციაზე წვდომა ONIE-ზე?

ინსტანციები ფასდება საათობრივად, თქვენი იჯარის ხანგრძლივობის მიხედვით. განთავსების შემდეგ შეგიძლიათ უშუალოდ დაუკავშირდეთ თქვენს გარემოს SSH წვდომით ან იმუშაოთ წინასწარ დაინსტალირებულ ინსტრუმენტებთან, მაგალითად ComfyUI-თან.

იქირავეთ H100 SXM საათობრივად

შექმენით ანგარიში, აირჩიეთ კონფიგურაცია და დაუკავშირდით SSH-ით. ბილინგი შეჩერდება, როცა GPU-ს წაშლით.

იქირავეთ H100 SXM

ყველა GPU →