NVIDIA Tesla P40 GPU በሰዓት ይከራዩ
NVIDIA Tesla P40 የPascal አርክቴክቸር ያለው የዳታሴንተር GPU ሲሆን 24 GB VRAM እና compute capability 6.1 ያለው ነው። ወደ 9.4 TFLOPS የነጠላ-ትክክለኛነት ስሌት አቅም እና ወደ 257 GB/s የማህደረ ትውስታ ባንድዊድዝ ያቀርባል፤ የሙቀት ገደቡ 250 W ነው። በONIE ይህንን GPU በሰዓት ክፍያ፣ SSH መዳረሻ እና ለPyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI ቀድሞ የተዘጋጁ ቴምፕሌቶች ጋር መከራየት ይችላሉ።
ዝርዝር መግለጫዎች
በእያንዳንዱ GPU VRAM
አርክቴክቸር
ኮምፒውት ካፓቢሊቲ (Compute capability)
FP32 ኮምፒውት
የማህደረ ትውስታ ባንድዊድዝ
የኃይል ገደብ
እሴቶቹ አሁን በዝርዝር የቀረቡ ማሽኖች ላይ በመሠረተ ልማት አቅራቢው የተገለጹ ናቸው፤ ትክክለኛው አፈጻጸም ከማሽን ወደ ማሽን ይለያያል።
ይገኛሉ ያሉ ውቅሮች
የቀጥታ ክምችትና ዋጋዎች፣ ያለማቋረጥ የሚዘምኑ። የመጨረሻው ዋጋ ትዕዛዝ ከማስገባትዎ በፊት ይረጋገጣል።
የቀጥታ ዋጋዎችን በመጫን ላይ…
Tesla P40 ለምን ይጠቅማል
Quantized LLM ኢንፈረንስ
እስከ 24 GB ማህደረ ትውስታ የሚፈልጉ የአካባቢ ቋንቋ ሞዴሎችን እንደ Ollama ወይም vLLM ባሉ ዝግጁ ቴምፕሌቶች ያስኬዱ።
የምስል ማመንጫ የስራ ፍሰቶች
ብዙ ቼክፖይንቶችን እና control nets ለመጫን ሰፊ VRAM አቅም የሚጠቅሙ ComfyUI የስራ መስመሮችን ያስተናግዱ።
የቆየ CUDA ልማት
በPascal አርክቴክቸር እና compute capability 6.1 ላይ ያነጣጠሩ PyTorch/CUDA መተግበሪያዎችን ይገንቡ፣ ይሞክሩ እና ይጠብቁ።
በማህደረ ትውስታ የተገደበ ባች ሂደት
ከጥሬ ስሌት ፍጥነት ይልቅ ትላልቅ ዳታሴቶችን በ24 GB VRAM ውስጥ ማስገባት ቅድሚያ የሚሰጣቸውን የዳታሴንተር የስራ ጫናዎች ያካሂዱ።
ለእርስዎ ትክክለኛው GPU ነው?
ዋናው ፍላጎትዎ ለማህደረ ትውስታ ከባድ ለሆኑ ኢንፈረንስ ወይም ልማት ስራዎች 24 GB VRAM ከሆነ እና የቆየው Pascal ስሌት በቂ ከሆነ Tesla P40 ይምረጡ። ከፍ ያለ የማህደረ ትውስታ ባንድዊድዝ ወይም ዘመናዊ tensor ማፋጠን ለከባድ ስልጠና ከፈለጉ አዲስ ወይም ትልቅ GPU ይምረጡ፤ የስራ ጫናዎ ትንሽ ማህደረ ትውስታ የሚጠቀም ከሆነ ደግሞ አነስተኛ GPU ይምረጡ።
ከተመሳሳይ GPUዎች ጋር ያወዳድሩ
በተደጋጋሚ የሚጠየቁ ጥያቄዎች
Tesla P40 ትላልቅ ቋንቋ ሞዴሎችን (LLM) ለማስኬድ ተስማሚ ነው?
24 GB VRAM አቅም Tesla P40 መጠነኛ መጠን ያላቸውን የተቀነሱ (quantized) ቋንቋ ሞዴሎችን እንደ Ollama ባሉ ቴምፕሌቶች በማህደረ ትውስታ ውስጥ እንዲይዝ ያስችለዋል። ይሁን እንጂ የማህደረ ትውስታ ባንድዊድዝ ወደ 257 GB/s ስለሆነ እና የቆየ Pascal አርክቴክቸር ስለሚጠቀም token ማመንጨት ከአዳዲስ ዳታሴንተር GPUዎች ይልቅ ቀርፋፋ ይሆናል።
compute capability 6.1 ጋር ምን አይነት የሶፍትዌር ተኳሃኝነት መጠበቅ አለብኝ?
Compute capability 6.1 መደበኛ ነጠላ-ትክክለኛነት ስራዎችን በ9.4 TFLOPS ገደማ ይደግፋል፤ ይህም ከአጠቃላይ PyTorch/CUDA ቴምፕሌቶች ጋር በደንብ ይሰራል። ነገር ግን አዳዲስ የማሽን መማሪያ ቤተ-መጻሕፍት ወይም አዳዲስ ሃርድዌር መመሪያዎችን የሚጠይቁ ባህሪያት በPascal አርክቴክቸር ላይ ላይሰሩ ይችላሉ።
በONIE ላይ Tesla P40 ምሳሌዎን እንዴት ማገናኘት እና ማዘጋጀት እችላለሁ?
ምሳሌውን ለPyTorch/CUDA፣ vLLM፣ Ollama ወይም ComfyUI ዝግጁ ቴምፕሌቶችን በመጠቀም ማሰማራት ይችላሉ። ፋይሎችን እና ብጁ አካባቢዎችን ከተርሚናልዎ ማስተዳደር እንዲችሉ ቀጥተኛ SSH መዳረሻ ተካቷል።
Tesla P40 ለመከራየት ክፍያው እንዴት ይሰራል?
በONIE ላይ ያሉ ምሳሌዎች በሰዓት ክፍያ ይጠቀማሉ፤ ይህም የዳታሴንተር GPU ምሳሌዎ ንቁ በሆነበት ጊዜ ብቻ እንዲከፍሉ ያስችልዎታል።
Tesla P40ን በሰዓት ይከራዩ
መለያ ይፍጠሩ፣ ውቅር ይምረጡ እና በSSH ያገናኙ። GPUውን ሲሰርዙ ክፍያው ይቆማል።
Tesla P40 ይከራዩ