GPU Cloud · NVIDIA · Ampere

NVIDIA RTX 3080 GPU በሰዓት ይከራዩ

NVIDIA RTX 3080 በAmpere ስነ-ህንፃ ላይ የተመሠረተ የሸማች GPU ሲሆን 10 GB VRAM አለው። ወደ 29.5 TFLOPS መደበኛ የተንሳፋፊ ነጥብ ስሌት አቅም እና ወደ 656 GB/s የማህደረ ትውስታ ባንድዊድዝ ያቀርባል። በONIE ላይ ይህን GPU በሰዓት ክፍያ፣ SSH መዳረሻ እና ዝግጁ አብነቶች ማሰማራት ይችላሉ።

ዝርዝር መግለጫዎች

በእያንዳንዱ GPU VRAM

10 GB

አርክቴክቸር

NVIDIA Ampere

ኮምፒውት ካፓቢሊቲ (Compute capability)

8.6

FP32 ኮምፒውት

≈ 29.5 TFLOPS

የማህደረ ትውስታ ባንድዊድዝ

≈ 656 GB/s

የኃይል ገደብ

380 W

እሴቶቹ አሁን በዝርዝር የቀረቡ ማሽኖች ላይ በመሠረተ ልማት አቅራቢው የተገለጹ ናቸው፤ ትክክለኛው አፈጻጸም ከማሽን ወደ ማሽን ይለያያል።

ይገኛሉ ያሉ ውቅሮች

የቀጥታ ክምችትና ዋጋዎች፣ ያለማቋረጥ የሚዘምኑ። የመጨረሻው ዋጋ ትዕዛዝ ከማስገባትዎ በፊት ይረጋገጣል።

የቀጥታ ዋጋዎችን በመጫን ላይ…

RTX 3080 ለምን ይጠቅማል

የታመቀ LLM ኢንፈረንስ

አስቀድመው የተዋቀሩ Ollama ወይም vLLM አብነቶችን በመጠቀም በ10 GB VRAM ውስጥ የሚገቡ የተቀነሱ (quantized) የቋንቋ ሞዴሎችን ያሂዱ።

የምስል ማመንጫ የሥራ ፍሰቶች

ወጥ የምስል ውጤት እንዲኖር ወደ 656 GB/s የማህደረ ትውስታ ባንድዊድዝን በመጠቀም በComfyUI ውስጥ የስርጭት (diffusion) ሂደቶችን ያካሂዱ።

PyTorch ሞዴል ፕሮቶታይፒንግ

ወደ ትልቅ ደረጃ ከማሳደግዎ በፊት በ compute capability 8.6 ባለው Ampere ካርድ ላይ ጥልቅ ትምህርት ኮድን ያዘጋጁና ይሞክሩ።

CUDA የስሌት ስራዎች

ወደ 29.5 TFLOPS መደበኛ የተንሳፋፊ ነጥብ አፈጻጸምን የሚጠቀሙ ብጁ ስራዎችን በCUDA ያፋጥኑ።

ለእርስዎ ትክክለኛው GPU ነው?

ፕሮቶታይፒንግ፣ የምስል ማመንጨት እና አነስተኛ ደረጃ ኢንፈረንስ የ10 GB VRAM እና ጠንካራ Ampere ስሌት በቂ ሲሆኑ RTX 3080ን ይምረጡ። ሞዴሎችዎ ወይም የባች መጠኖችዎ ከ10 GB በላይ ከሆኑ ተጨማሪ ማህደረ ትውስታ ያለው GPU ይምረጡ፤ ወይም ወደ 29.5 TFLOPS የማያስፈልጋቸው ቀላል ስክሪፕቶች ዝቅተኛ ዝርዝር ያለው የሸማች ካርድ ይምረጡ።

ከተመሳሳይ GPUዎች ጋር ያወዳድሩ

GPUበእያንዳንዱ GPU VRAMአርክቴክቸርFP32 ኮምፒውትከ / በሰዓትዝርዝር
RTX 308010 GBAmpere≈ 29.5 TFLOPS—
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—ዝርዝር
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—ዝርዝር
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—ዝርዝር

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

RTX 3080 ለLLM ኢንፈረንስ እና ለምስል ማመንጨት ተስማሚ ነውን?

አዎ፣ 10 GB VRAM እና ወደ 656 GB/s የማህደረ ትውስታ ባንድዊድዝ በComfyUI ለሚደረግ መደበኛ የምስል ማመንጨት እና በOllama ወይም vLLM በኩል ለተቀነሱ የቋንቋ ሞዴሎች በቂ ናቸው። ትላልቅ ያልተቀነሱ ሞዴሎች ከፍተኛ የማህደረ ትውስታ አቅም ያለው GPU ያስፈልጋቸዋል።

በONIE ላይ ለRTX 3080 የትኞቹ የሶፍትዌር አብነቶች ይገኛሉ?

ለPyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI ዝግጁ አብነቶች ያሏቸውን ምሳሌዎች ማስጀመር ይችላሉ። ካርዱ ከዘመናዊ የማሽን መማሪያ ማዕቀፎች ጋር ሰፊ ተኳኋኝነት እንዲኖረው compute capability 8.6ን ይደግፋል።

ከRTX 3080 ወደ ትልቅ GPU መቼ ማሻሻል አለብኝ?

RTX 3080 በ380 W የኃይል ወሰን ውስጥ ጠንካራ የሸማች ደረጃ ስሌት በወደ 29.5 TFLOPS ይሰጣል፤ ነገር ግን በ10 GB VRAM ብቻ የተገደበ ነው። የስልጠና ባችዎ ወይም የሞዴል ክብደቶችዎ የማህደረ ትውስታ ስህተቶች (out-of-memory) የሚያስከትሉ ከሆነ ትልቅ የማህደረ ትውስታ አቅም ያለው የስራ ጣቢያ ወይም የዳታ ማዕከል GPU ተገቢ ምርጫ ነው።

በONIE ላይ ክፍያና መዳረሻ እንዴት ይሰራል?

ምሳሌዎች ንቁ በሆኑበት ጊዜ በሰዓት ክፍያ ይከፈልባቸዋል። አካባቢዎን ለማስተዳደር ሙሉ SSH መዳረሻ ያገኛሉ፤ እንዲሁም በመረጡት አብነት የቀረቡ ማንኛውም የድር በይነገጾች አብረው ይኖራሉ።

RTX 3080ን በሰዓት ይከራዩ

መለያ ይፍጠሩ፣ ውቅር ይምረጡ እና በSSH ያገናኙ። GPUውን ሲሰርዙ ክፍያው ይቆማል።

RTX 3080 ይከራዩ

ሁሉም GPU-ዎች →