NVIDIA Tesla V100 GPU በሰዓት ይከራዩ
NVIDIA Tesla V100 በ Volta አርክቴክቸር ላይ የተመሰረተ የዳታ ማዕከል GPU ሲሆን 16 GB ከፍተኛ ባንድዊድዝ ያለው VRAM እና 300 W የሙቀት ዲዛይን ኃይል (TDP) አለው። ወደ 12.5 TFLOPS ነጠላ-ትክክለኛነት (single-precision) ስሌት እና ወደ 780 GB/s የማህደረ ትውስታ ባንድዊድዝ ያቀርባል፤ ይህም ለማህደረ ትውስታ-ተኮር ሳይንሳዊ ስሌቶችና ለጥልቅ ትምህርት ስራዎች አስተማማኝ አማራጭ ያደርገዋል። በONIE ላይ Tesla V100 ን በሰዓት-በሰዓት ክፍያ፣ ሙሉ SSH መዳረሻ እና ቀድሞ የተዋቀሩ ቴምፕሌቶች ማስነሳት ይችላሉ።
ዝርዝር መግለጫዎች
በእያንዳንዱ GPU VRAM
አርክቴክቸር
ኮምፒውት ካፓቢሊቲ (Compute capability)
FP32 ኮምፒውት
የማህደረ ትውስታ ባንድዊድዝ
የኃይል ገደብ
እሴቶቹ አሁን በዝርዝር የቀረቡ ማሽኖች ላይ በመሠረተ ልማት አቅራቢው የተገለጹ ናቸው፤ ትክክለኛው አፈጻጸም ከማሽን ወደ ማሽን ይለያያል።
ይገኛሉ ያሉ ውቅሮች
የቀጥታ ክምችትና ዋጋዎች፣ ያለማቋረጥ የሚዘምኑ። የመጨረሻው ዋጋ ትዕዛዝ ከማስገባትዎ በፊት ይረጋገጣል።
የቀጥታ ዋጋዎችን በመጫን ላይ…
Tesla V100 ለምን ይጠቅማል
የታመቀ LLM ኢንፈረንስ
Ollama ወይም vLLM ቴምፕሌቶችን በመጠቀም የተቀነሱ (quantized) ወይም አነስተኛ የቋንቋ ሞዴሎችን ያገልግሉ፤ በዚህም ወደ 780 GB/s የማህደረ ትውስታ ባንድዊድዝ ጥቅም ያግኙ።
ጥልቅ ትምህርት ፕሮቶታይፒንግ
የነርቭ ኔትወርክ አርክቴክቸሮችን በ PyTorch ያሰልጥኑ እና ያረጋግጡ፤ 16 GB VRAM እና compute capability 7.0 ይጠቀሙ።
የምስል ማመንጫ የስራ ፍሰቶች
አስቀድመው የተጫኑ ComfyUI ቴምፕሌቶችን በመጠቀም የዲፊውዥን ፓይፕላይኖችንና ብጁ የማመንጫ ግራፎችን ያሂዱ።
ሳይንሳዊ ማስመሰል እና ስሌት
ከ Volta አርክቴክቸርና ወደ 12.5 TFLOPS ነጠላ-ትክክለኛነት አፈጻጸም ተጠቃሚ በሚሆኑ ባንድዊድዝ-ገዳቢ የዳታ ማዕከል ስራዎችን ያከናውኑ።
ለእርስዎ ትክክለኛው GPU ነው?
16 GB Tesla V100 ያለ አዳዲስ የዳታ ማዕከል ሃርድዌር ወጪ ከፍተኛ የማህደረ ትውስታ ባንድዊድዝ ለሚፈልጉ አነስተኛና መካከለኛ ሞዴሎችና ለሳይንሳዊ ስራዎች ተስማሚ ነው። የማህደረ ትውስታ ፍላጎትዎ ዝቅተኛ ለሆነ መሠረታዊ ልማት ትንሽ የሸማቾች GPU ይምረጡ፤ ሞዴሎችዎ ከ 16 GB ካለፉ ወይም ከ compute capability 7.0 በላይ አዳዲስ የአርክቴክቸር ባህሪያት ከፈለጉ ደግሞ ትልቅ VRAM ያለው አዲስ ትውልድ GPU ይምረጡ።
ከተመሳሳይ GPUዎች ጋር ያወዳድሩ
በተደጋጋሚ የሚጠየቁ ጥያቄዎች
16 GB Tesla V100 ለ LLM ኢንፈረንስና ፋይን-ትዩኒንግ ተስማሚ ነው?
16 GB VRAM እና ወደ 780 GB/s የማህደረ ትውስታ ባንድዊድዝ Tesla V100 ለአነስተኛ ወይም የተቀነሱ የቋንቋ ሞዴሎች ኢንፈረንስና ለፓራሜትር-ቆጣቢ ፋይን-ትዩኒንግ ተስማሚ ያደርጉታል። ከ 16 GB ማህደረ ትውስታ በላይ የሚሆኑ ትላልቅ ሞዴሎች ካሉዎት ከፍተኛ VRAM አቅም ያለው GPU መምረጥ አለብዎት።
በONIE ላይ ምን ዓይነት የሶፍትዌር ቴምፕሌቶችና የግንኙነት ዘዴዎች አሉ?
እያንዳንዱ Tesla V100 ኢንስታንስ ለብጁ ውቅረትና ለትዕዛዝ-መስመር ስራዎች ቀጥተኛ SSH መዳረሻ ይዟል። ወዲያውኑ ለመጀመር PyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI ጨምሮ ዝግጁ ቴምፕሌቶችን ማስነሳት ይችላሉ።
የ Volta አርክቴክቸር የframework ተኳሃኝነትን እንዴት ይነካል?
Tesla V100 CUDA compute capability 7.0 ን ይደግፋል፤ ይህም እንደ PyTorch ካሉ መደበኛ ጥልቅ ትምህርት frameworks ጋር ተኳሃኝ ነው። ሆኖም በአዳዲስ compute capabilities ውስጥ የተዋወቁ ባህሪያትን በግልጽ የሚፈልጉ ስራዎች የበለጠ ዘመናዊ GPU አርክቴክቸር ያስፈልጋቸዋል።
Tesla V100 ን ለመከራየት ክፍያ እንዴት ይሰራል?
ONIE ለሁሉም Tesla V100 ኪራዮች ቀጥተኛ የሰዓት-በሰዓት ክፍያ ይጠቀማል። ኢንስታንስዎ ንቁ በሆነበት ጊዜ ብቻ ይከፍላሉ፤ ይህም ሙከራዎችን ወይም ባች ስራዎችን እንዲያካሂዱ እና ሲጨርሱ ሰርቨሩን እንዲያቋርጡ ያስችልዎታል።
Tesla V100ን በሰዓት ይከራዩ
መለያ ይፍጠሩ፣ ውቅር ይምረጡ እና በSSH ያገናኙ። GPUውን ሲሰርዙ ክፍያው ይቆማል።
Tesla V100 ይከራዩ