NVIDIA Tesla V100 GPU පැයට කුලියට ගන්න
NVIDIA Tesla V100 යනු Volta ගෘහ නිර්මාණ ශිල්පයෙන් යුත් දත්ත මධ්‍යස්ථාන GPU එකකි. එය 16 GB ඉහළ බැන්ඩ්විඩ්ත් VRAM සහ 300 W තාප සැලසුම් බලයකින් සමන්විත වේ. එය ආසන්න වශයෙන් 12.5 TFLOPS තනි-නිරවද්‍යතා ගණනය කිරීමේ ශක්තියක් සහ ආසන්න වශයෙන් 780 GB/s මතක බැන්ඩ්විඩ්තයක් ලබා දෙන අතර, මතක-තීව්‍ර විද්‍යාත්මක ගණනය කිරීම් සහ ගැඹුරු ඉගෙනීම් කාර්යයන් සඳහා විශ්වාසදායක විකල්පයක් වේ. ONIE හි, ඔබට Tesla V100 එක පැය අනුව බිල්පත් ගෙවීම, සම්පූර්ණ SSH ප්රවේශය සහ පෙර-වින්‍යාසගත ටෙම්ප්ලේට් සමඟ යෙදවිය හැක.
පිරිවිතර
GPU එකකට VRAM
ගෘහ නිර්මාණ ශිල්පය
ගණනය කිරීමේ හැකියාව (Compute capability)
FP32 ගණනය කිරීම
මතක Bandwidth
බල සීමාව
දැනට ලැයිස්තුගත කර ඇති යන්ත්‍ර සඳහා යටිතල පහසුකම් සපයන්නා විසින් වාර්තා කළ අගයන්; සැබෑ කාර්ය සාධනය යන්ත්‍රයෙන් යන්ත්‍රයට වෙනස් වේ.
ලබාගත හැකි වින්‍යාසයන්
සජීවී තොග සහ මිල, අඛණ්ඩව යාවත්කාලීන වේ. ඔබ ඇණවුම් කිරීමට පෙර අවසාන මිල තහවුරු කෙරේ.
සජීවී මිල ලබා ගනිමින්…
Tesla V100 කුමක් සඳහා හොඳද
සංයුක්ත LLM අනුමානය
Ollama හෝ vLLM ටෙම්ප්ලේට් භාවිතයෙන් ප්‍රමාණනය කළ (quantized) හෝ කුඩා භාෂා ආකෘති සේවා කරන්න, ආසන්න වශයෙන් 780 GB/s මතක බැන්ඩ්විඩ්ත් ප්‍රයෝජන ගනිමින්.
ගැඹුරු ඉගෙනීම් මූලාකෘති සැකසීම
16 GB VRAM සහ compute capability 7.0 සහිතව PyTorch හි neural network ගෘහ නිර්මාණ ශිල්ප පුහුණු කර වලංගු කරන්න.
රූප ජනන කාර්ය ප්රවාහ
පෙර-ස්ථාපිත ComfyUI ටෙම්ප්ලේට් හරහා diffusion pipelines සහ අභිරුචි ජනන ප්‍රස්තාර ධාවනය කරන්න.
විද්‍යාත්මක අනුකරණය සහ ගණනය කිරීම
Volta ගෘහ නිර්මාණ ශිල්පයෙන් සහ ආසන්න වශයෙන් 12.5 TFLOPS තනි-නිරවද්‍යතා කාර්ය සාධනයෙන් ප්‍රයෝජන ලබන බැන්ඩ්විඩ්ත්-සීමිත දත්ත මධ්‍යස්ථාන කාර්යභාර ක්‍රියාත්මක කරන්න.
මෙය ඔබට සුදුසු GPU එකද?
16 GB Tesla V100 එක, නවතම දත්ත මධ්‍යස්ථාන උපකරණ සඳහා වියදම් නොකර, කුඩා-මධ්‍යම ආකෘති සහ විද්‍යාත්මක කාර්යභාර සඳහා ඉහළ මතක බැන්ඩ්විඩ්ත් අවශ්‍ය වන පර්යේෂකයන් සහ සංවර්ධකයන්ට සුදුසු වේ. මතක අවශ්‍යතා අඩු මූලික සංවර්ධනය සඳහා කුඩා පාරිභෝගික GPU එකක් තෝරන්න, නැතහොත් ඔබේ ආකෘති 16 GB ඉක්මවන්නේ නම් හෝ compute capability 7.0 ට ඔබ්බට නව ගෘහ නිර්මාණ ශිල්ප විශේෂාංග අවශ්‍ය නම්, විශාල VRAM සහිත නවතම පරම්පරාවේ GPU එකට උත්ශ්‍රේණි වන්න.
සමාන GPU සමඟ සසඳන්න
නිතර අසන ප්‍රශ්න
16 GB Tesla V100 එක LLM අනුමානය සහ fine-tuning සඳහා සුදුසුද?
16 GB VRAM සහ ආසන්න වශයෙන් 780 GB/s මතක බැන්ඩ්විඩ්ත්ය කුඩා හෝ ප්‍රමාණනය කළ භාෂා ආකෘති මත අනුමානය සහ පරාමිති-කාර්යක්ෂම fine-tuning සඳහා Tesla V100 සුදුසු කරයි. 16 GB තුළ ගැළපෙන්නේ නැති විශාල ආකෘති සඳහා, ඉහළ VRAM ධාරිතාවක් සහිත GPU එකක් තෝරන්න.
ONIE හි ඇති මෘදුකාංග ටෙම්ප්ලේට් සහ සම්බන්ධතා ක්රම මොනවාද?
සෑම Tesla V100 අවස්ථාවක්ම අභිරුචි වින්යාසය සහ command-line කාර්ය ප්රවාහ සඳහා සෘජු SSH ප්රවේශය ඇතුළත් වේ. ඔබට PyTorch/CUDA, vLLM, Ollama සහ ComfyUI ඇතුළු සූදානම් ටෙම්ප්ලේට් දියත් කර වහාම වැඩ ආරම්භ කළ හැක.
Volta ගෘහ නිර්මාණ ශිල්පය රාමු අනුකූලතාවට බලපාන්නේ කෙසේද?
Tesla V100 CUDA compute capability 7.0 ට සහාය දක්වන අතර, එය PyTorch වැනි සම්මත ගැඹුරු ඉගෙනීම් රාමු සමඟ අනුකූල වේ. කෙසේ වෙතත්, අලුත් compute capability වලින් හඳුන්වා දුන් විශේෂාංග පැහැදිලිවම අවශ්‍ය කාර්යභාර සඳහා වඩාත් නවීන GPU ගෘහ නිර්මාණ ශිල්පයක් අවශ්‍ය වේ.
Tesla V100 කුලියට ගැනීම සඳහා බිල්පත් ගෙවීම් ක්‍රියා කරන්නේ කෙසේද?
ONIE සියලු Tesla V100 කුලී සඳහා සරල පැය අනුව බිල්පත් ගෙවීම භාවිතා කරයි. ඔබේ අවස්ථාව ක්‍රියාත්මක වන කාලය සඳහා පමණක් ගෙවන්න, එමඟින් පර්යේෂණ හෝ batch jobs ධාවනය කර, අවසන් වූ පසු සේවාදායකය අවසන් කළ හැක.
Tesla V100 පැයෙන් පැයට කුලියට ගන්න
ගිණුමක් සාදා, වින්‍යාසයක් තෝරා, SSH හරහා සම්බන්ධ වන්න. GPU මකා දැමූ විට බිල්ගත කිරීම නවතී.
Tesla V100 කුලියට ගන්න