GPU Cloud · NVIDIA · Hopper

NVIDIA H200 NVL GPU පැයට කුලියට ගන්න

Q: ලබා ගත හැකි software පරිසර සහ access ක්රම මොනවාද?

සෑම instance එකකටම අභිරුචි වින්යාසය සඳහා සම්පූර්ණ SSH ප්රවේශය ඇත. PyTorch/CUDA, vLLM, Ollama, සහ ComfyUI ඇතුළු පූර්ව-ස්ථාපිත templates සමඟ ද instances ආරම්භ කළ හැක.

NVIDIA H200 NVL යනු මතකය-දැඩි workload සඳහා නිර්මාණය කරන ලද Hopper ගෘහනිර්මාණ (architecture) datacenter GPU එකකි. එය 140 GB VRAM සහ ආසන්න වශයෙන් 3884 GB/s memory bandwidth ලබා දෙන අතර, 600 W බල සීමාවෙන් ක්‍රියා කරයි, compute capability 9.0 සඳහා සහාය දක්වයි, සහ ආසන්න වශයෙන් 48.3 TFLOPS සම්මත floating-point compute ලබා දෙයි. ඔබට ONIE මත පැයකට බිල්කරණය, සෘජු SSH ප්‍රවේශය, සහ සූදානම් templates සමඟ මෙම processor deploy කළ හැක.

H200 NVL කුලියට ගන්න

පිරිවිතර

GPU එකකට VRAM

140 GB

ගෘහ නිර්මාණ ශිල්පය

NVIDIA Hopper

ගණනය කිරීමේ හැකියාව (Compute capability)

9.0

FP32 ගණනය කිරීම

≈ 48.3 TFLOPS

මතක Bandwidth

≈ 3,884 GB/s

බල සීමාව

600 W

දැනට ලැයිස්තුගත කර ඇති යන්ත්‍ර සඳහා යටිතල පහසුකම් සපයන්නා විසින් වාර්තා කළ අගයන්; සැබෑ කාර්ය සාධනය යන්ත්‍රයෙන් යන්ත්‍රයට වෙනස් වේ.

ලබාගත හැකි වින්‍යාසයන්

සජීවී තොග සහ මිල, අඛණ්ඩව යාවත්කාලීන වේ. ඔබ ඇණවුම් කිරීමට පෙර අවසාන මිල තහවුරු කෙරේ.

සජීවී මිල ලබා ගනිමින්…

H200 NVL කුමක් සඳහා හොඳද

විශාල භාෂා ආකෘති Inference

140 GB VRAM ධාරිතාව සහ ආසන්න වශයෙන් 3884 GB/s memory bandwidth ප්‍රයෝජනයට ගනිමින්, විශාල මොඩල sharding නොකර මතකය තුළ ධාවනය කරන්න.

Model Fine-Tuning සහ Training

Hopper compute capability 9.0 භාවිතා කර, විශාල batch sizes සඳහා ප්‍රමාණවත් GPU මතකය සමඟ deep learning මොඩල පුහුණු කර අනුවර්තනය කරන්න.

ඉහළ Throughput Batch Processing

පූර්ව-වින්‍යාස කළ PyTorch/CUDA, vLLM, හෝ Ollama templates භාවිතා කර විශාල datasets සහ දීර්ඝ context windows කාර්යක්ෂමව සකසන්න.

විද්‍යාත්මක ගණනය සහ Simulation

ආසන්න වශයෙන් 48.3 TFLOPS සම්මත floating-point කාර්ය සාධනයක් සහ සැලකිය යුතු onboard මතකයක් අවශ්‍ය සංකීර්ණ datacenter simulations ක්‍රියාත්මක කරන්න.

මෙය ඔබට සුදුසු GPU එකද?

ඔබගේ ප්‍රධාන සීමාව VRAM ධාරිතාව සහ memory bandwidth වන විට, විශේෂයෙන් විශාල මොඩලයක් තනි card එකක host කිරීම සඳහා H200 NVL තෝරන්න. 140 GB මතකය අවශ්‍ය නොවන සැහැල්ලු inference, සාමාන්‍ය image generation, හෝ development කාර්යයන් සඳහා කුඩා workstation හෝ consumer GPU එකක් වඩා ප්‍රායෝගික තේරීමකි.

සමාන GPU සමඟ සසඳන්න

GPU	GPU එකකට VRAM	ගෘහ නිර්මාණ ශිල්පය	FP32 ගණනය කිරීම	පැයකට සිට	විස්තර
H200 NVL	140 GB	Hopper	≈ 48.3 TFLOPS	—
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—	විස්තර
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—	විස්තර
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—	විස්තර

නිතර අසන ප්‍රශ්න

සාමාන්‍ය Hopper GPU එකක් වෙනුවට H200 NVL තෝරන්නේ ඇයි?

H200 NVL මගින් 140 GB VRAM සහ ආසන්න වශයෙන් 3884 GB/s memory bandwidth ලබා දෙයි. එය පෙර Hopper පරම්පරාවේ cards වල memory ධාරිතාව සහ bandwidth ට වඩා ඉහළ ය. මෙමගින් විශාල මොඩල සහ context windows තනි GPU එකක ගැලපිය හැක.

vLLM හෝ Ollama සමඟ LLM serving සඳහා H200 NVL සුදුසුද?

ඔව්. 140 GB memory pool එක සහ ඉහළ memory bandwidth නිසා එය විශාල භාෂා මොඩල serve කිරීමට හොඳින් ගැලපේ. ONIE මගින් vLLM සහ Ollama යන දෙකටම සූදානම් templates සපයන අතර, ඔබට ඉක්මනින් ආරම්භ කිරීමට ඒවා උපකාරී වේ.

ලබා ගත හැකි software පරිසර සහ access ක්‍රම මොනවාද?

සෑම instance එකකටම අභිරුචි වින්‍යාසය සඳහා සම්පූර්ණ SSH ප්‍රවේශය ඇත. PyTorch/CUDA, vLLM, Ollama, සහ ComfyUI ඇතුළු පූර්ව-ස්ථාපිත templates සමඟ ද instances ආරම්භ කළ හැක.

ONIE හි H200 NVL සඳහා බිල්කරණය කෙසේ ක්‍රියා කරන්නේද?

Instances පැය මත පදනම්ව බිල්කරණය කෙරේ. ඔබගේ H200 NVL instance ක්‍රියාත්මක වන කාලය සඳහා පමණක් ඔබ ගෙවයි.

H200 NVL පැයෙන් පැයට කුලියට ගන්න

ගිණුමක් සාදා, වින්‍යාසයක් තෝරා, SSH හරහා සම්බන්ධ වන්න. GPU මකා දැමූ විට බිල්ගත කිරීම නවතී.

H200 NVL කුලියට ගන්න

සියලු GPU →