NVIDIA CMP 170HX GPU පැයට කුලියට ගන්න
NVIDIA CMP 170HX යනු Ampere ගෘහ නිර්මාණ ශිල්පයට අයත්, 64 GB VRAM සහ 250 W TDP සහිත datacenter GPU එකකි. එය ආසන්න වශයෙන් 1516 GB/s memory bandwidth සහ compute capability 8.0 හි ආසන්න වශයෙන් 12.1 TFLOPS single-precision compute සපයයි. ONIE මත ඔබට මෙම කාඩ්පත පැය අනුව බිල්කිරීම, සම්පූර්ණ SSH ප්‍රවේශය සහ PyTorch/CUDA, vLLM, Ollama සහ ComfyUI සඳහා සූදානම් templates සමඟ deploy කළ හැක.
පිරිවිතර
GPU එකකට VRAM
ගෘහ නිර්මාණ ශිල්පය
ගණනය කිරීමේ හැකියාව (Compute capability)
FP32 ගණනය කිරීම
මතක Bandwidth
බල සීමාව
දැනට ලැයිස්තුගත කර ඇති යන්ත්‍ර සඳහා යටිතල පහසුකම් සපයන්නා විසින් වාර්තා කළ අගයන්; සැබෑ කාර්ය සාධනය යන්ත්‍රයෙන් යන්ත්‍රයට වෙනස් වේ.
ලබාගත හැකි වින්‍යාසයන්
සජීවී තොග සහ මිල, අඛණ්ඩව යාවත්කාලීන වේ. ඔබ ඇණවුම් කිරීමට පෙර අවසාන මිල තහවුරු කෙරේ.
සජීවී මිල ලබා ගනිමින්…
CMP 170HX කුමක් සඳහා හොඳද
මතක-සීමිත LLM Inference
64 GB VRAM ධාරිතාව සහ ආසන්න වශයෙන් 1516 GB/s memory bandwidth භාවිතා කරමින්, vLLM හෝ Ollama හරහා විශාල භාෂා මොඩල සේවා කරන්න.
ඉහළ මතක ධාරිතාවේ Deep Learning
මොඩල උපාංග අතර බෙදීමකින් තොරව, සැලකිය යුතු මතක ධාරිතාවක් සහ compute capability 8.0 අවශ්‍ය PyTorch/CUDA වැඩ ක්‍රියාත්මක කරන්න.
සංකීර්ණ රූප උත්පාදන වැඩ ප්‍රවාහ
ComfyUI හි විශාල diffusion checkpoints කිහිපයක් සහ control nets එකවර 64 GB මතක සංචිතය තුළ load කරන්න.
දත්ත සැකසීම සහ අනුකරණය
250 W බල සීමාව තුළ ඉහළ මතක throughput ලබා දෙන, මතක-දැඩි datacenter කාර්යයන් ක්‍රියාත්මක කරන්න.
මෙය ඔබට සුදුසු GPU එකද?
ඔබගේ වැඩ බර raw single-precision compute වලට වඩා මතක ධාරිතාව සහ bandwidth මගින් සීමා වන්නේ නම්, CMP 170HX තෝරන්න. වේගවත් training iterations අවශ්‍ය නම් ඉහළ compute throughput සහිත GPU එකක් තෝරන්න, නැතහොත් ඔබගේ මොඩල්වලට 64 GB VRAM අවශ්‍ය නොවේ නම් කුඩා consumer කාඩ්පතක් තෝරන්න.
සමාන GPU සමඟ සසඳන්න
නිතර අසන ප්‍රශ්න
CMP 170HX LLM inference සඳහා සුදුසුද?
ඔව්. එහි 64 GB VRAM සහ ආසන්න වශයෙන් 1516 GB/s memory bandwidth නිසා, vLLM සහ Ollama වැනි templates භාවිතා කර විශාල භාෂා මොඩල load කිරීමට සහ සේවා කිරීමට එය හොඳින් සුදුසුය. කෙසේවෙතත්, එය ආසන්න වශයෙන් 12.1 TFLOPS single-precision compute සපයන බැවින්, ඉහළ compute ඝනත්වයක් සහිත datacenter GPUs වලට වඩා prompt processing මන්දගාමී වනු ඇත.
මෙම GPU සම්මත datacenter accelerators හා සසඳන්නේ කෙසේද?
CMP 170HX හට විශාල 64 GB memory buffer එකක් සහ සම්මත Ampere datacenter කාඩ්පත් වලට සමාන ඉහළ memory bandwidth එකක් ඇති අතර, එය 250 W TDP එකකින් ක්‍රියා කරයි. එහි ප්‍රධාන අවාසිය වන්නේ ආසන්න වශයෙන් 12.1 TFLOPS හි පහත් compute throughput එකයි. එබැවින් එය බරපතල compute වැඩ බරකට වඩා memory-bound කාර්යයන් සඳහා වඩාත් සුදුසුය.
මෙම GPU සඳහා කුමන software පරිසර ලබාගත හැකිද?
කාඩ්පත CUDA compute capability 8.0 ට සහාය දක්වන අතර, PyTorch/CUDA, vLLM, Ollama සහ ComfyUI ඇතුළු පූර්ව-වින්‍යාස කළ templates භාවිතා කර ONIE මත ආරම්භ කළ හැක. අභිරුචි libraries ස්ථාපනය කිරීමට සහ ඔබගේ පරිසරය කළමනාකරණය කිරීමට ඔබට සෘජු SSH ප්‍රවේශයද ලැබේ.
CMP 170HX කුලියට ගන්නා විට බිල්කිරීම කෙසේ සිදුවේද?
ONIE හි instances පැය අනුව බිල් කරයි, එබැවින් ඔබගේ GPU ක්රියාකාරීව පවතින කාලය සඳහා පමණක් ඔබ ගෙවයි.
CMP 170HX පැයෙන් පැයට කුලියට ගන්න
ගිණුමක් සාදා, වින්‍යාසයක් තෝරා, SSH හරහා සම්බන්ධ වන්න. GPU මකා දැමූ විට බිල්ගත කිරීම නවතී.
CMP 170HX කුලියට ගන්න