GPU Cloud · NVIDIA · Hopper

NVIDIA H100 NVL GPU පැයට කුලියට ගන්න

Q: H100 NVL සම්මත H100 ප්රභේදවලට සාපේක්ෂව කෙසේද?

H100 NVL මගින් ප්රසාරිත 94 GB VRAM ධාරිතාවක් සහ 400 W බල සීමාවක් ලබා දෙන අතර, සම්මත Hopper datacenter වින්යාසවලට සාපේක්ෂව අමතර මතක ඉඩ සපයයි.

Q: මේ GPU සඳහා ONIE හි ලබාගත හැකි software template මොනවාද?

PyTorch/CUDA, vLLM, Ollama සහ ComfyUI සඳහා පූර්ව-වින්යාස කළ template භාවිතා කර H100 NVL deploy කළ හැක. ඒවා සියල්ලම compute capability 9.0 සහාය දක්වයි.

NVIDIA H100 NVL යනු Hopper ගෘහ නිර්මාණ ශිල්පයට අයත්, 94 GB VRAM සහ compute capability 9.0 ඇති datacenter GPU එකකි. එය 400 W තාප සීමාව තුළ ආසන්න වශයෙන් 48.3 TFLOPS single-precision කාර්ය සාධනයත්, ආසන්න වශයෙන් 3381 GB/s memory bandwidth එකත් ලබා දෙයි. ONIE මත H100 NVL කුලියට ගන්න. පැයකට බිල්කිරීම, SSH ප්‍රවේශය සහ PyTorch/CUDA, vLLM, Ollama, ComfyUI සඳහා සූදානම් template ලැබේ.

H100 NVL කුලියට ගන්න

පිරිවිතර

GPU එකකට VRAM

94 GB

ගෘහ නිර්මාණ ශිල්පය

NVIDIA Hopper

ගණනය කිරීමේ හැකියාව (Compute capability)

9.0

FP32 ගණනය කිරීම

≈ 48.3 TFLOPS

මතක Bandwidth

≈ 3,381 GB/s

බල සීමාව

400 W

දැනට ලැයිස්තුගත කර ඇති යන්ත්‍ර සඳහා යටිතල පහසුකම් සපයන්නා විසින් වාර්තා කළ අගයන්; සැබෑ කාර්ය සාධනය යන්ත්‍රයෙන් යන්ත්‍රයට වෙනස් වේ.

ලබාගත හැකි වින්‍යාසයන්

සජීවී තොග සහ මිල, අඛණ්ඩව යාවත්කාලීන වේ. ඔබ ඇණවුම් කිරීමට පෙර අවසාන මිල තහවුරු කෙරේ.

සජීවී මිල ලබා ගනිමින්…

H100 NVL කුමක් සඳහා හොඳද

විශාල භාෂා ආකෘති (LLM) Inference

94 GB VRAM සහ ආසන්න වශයෙන් 3381 GB/s memory bandwidth භාවිතා කර, වේගවත් token generation සඳහා vLLM හෝ Ollama සමඟ ඉහළ ධාරිතාවක් ඇති භාෂා ආකෘති deploy කරන්න.

ගැඹුරු ඉගෙනුම (Deep Learning) Fine-Tuning

Hopper ගෘහ නිර්මාණ ශිල්පයේ විශේෂාංග සහ compute capability 9.0 භාවිතා කර, PyTorch හි neural networks පුහුණු කර fine-tune කරන්න.

ඉහළ විභේදන රූප ජනනය

සංකීර්ණ ComfyUI workflow සහ විශාල diffusion pipeline, system RAM වෙත offload නොකර, මතකයේම ක්‍රියාත්මක කරන්න.

විද්‍යාත්මක ගණනය කිරීම සහ සිමියුලේෂන්

ආසන්න වශයෙන් 48.3 TFLOPS single-precision compute වලින් ප්‍රයෝජන ගන්නා, මතක-තීව්‍ර datacenter workload ක්‍රියාත්මක කරන්න.

මෙය ඔබට සුදුසු GPU එකද?

ඔබගේ AI හෝ compute workload වලට සම්මත datacenter කාඩ්පත් සපයන්නට වඩා වැඩි මතකයක් (94 GB VRAM දක්වා) අවශ්‍ය නම්, H100 NVL තෝරන්න. සැහැල්ලු inference සහ development සඳහා කුඩා workstation හෝ පාරිභෝගික GPU වඩාත් සුදුසුය, ඔබගේ ආකෘති 94 GB ඉක්මවන්නේ නම් multi-GPU සැකසුමක් හෝ විශාල මතක tier එකක් අවශ්‍ය වේ.

සමාන GPU සමඟ සසඳන්න

GPU	GPU එකකට VRAM	ගෘහ නිර්මාණ ශිල්පය	FP32 ගණනය කිරීම	පැයකට සිට	විස්තර
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—	විස්තර
H200 NVL	140 GB	Hopper	≈ 48.3 TFLOPS	—	විස්තර
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—	විස්තර

නිතර අසන ප්‍රශ්න

H100 NVL LLM inference සහ fine-tuning සඳහා සුදුසුද?

ඔව්. එහි 94 GB VRAM සහ ආසන්න වශයෙන් 3381 GB/s memory bandwidth නිසා, කුඩා datacenter GPU වලට නොගැලපෙන විශාල භාෂා ආකෘති serve කිරීමට සහ fine-tune කිරීමට එය හොඳින් සුදුසුය.

H100 NVL සම්මත H100 ප්‍රභේදවලට සාපේක්ෂව කෙසේද?

H100 NVL මගින් ප්‍රසාරිත 94 GB VRAM ධාරිතාවක් සහ 400 W බල සීමාවක් ලබා දෙන අතර, සම්මත Hopper datacenter වින්‍යාසවලට සාපේක්ෂව අමතර මතක ඉඩ සපයයි.

මේ GPU සඳහා ONIE හි ලබාගත හැකි software template මොනවාද?

PyTorch/CUDA, vLLM, Ollama සහ ComfyUI සඳහා පූර්ව-වින්‍යාස කළ template භාවිතා කර H100 NVL deploy කළ හැක. ඒවා සියල්ලම compute capability 9.0 සහාය දක්වයි.

H100 NVL කුලියට ගන්නා විට බිල්කිරීම සහ ප්‍රවේශය ක්‍රියා කරන්නේ කෙසේද?

ONIE හි instance වලට පැයකට බිල්කිරීම අදාළ වන අතර, ඔබේ පරිසරය සහ workflow වහාම කළමනාකරණය කිරීමට හැකිවන පරිදි සෘජු SSH ප්‍රවේශය ලබා දෙයි.

H100 NVL පැයෙන් පැයට කුලියට ගන්න

ගිණුමක් සාදා, වින්‍යාසයක් තෝරා, SSH හරහා සම්බන්ධ වන්න. GPU මකා දැමූ විට බිල්ගත කිරීම නවතී.

H100 NVL කුලියට ගන්න

සියලු GPU →