GPU Cloud · NVIDIA · Pascal

గంటకు NVIDIA GTX 1080 Ti GPUని అద్దెకు తీసుకోండి

NVIDIA GTX 1080 Ti అనేది Pascal ఆర్కిటెక్చర్‌పై నిర్మితమైన వినియోగదారు GPU. ఇందులో 11 GB VRAM ఉంది. ఇది 250 W పవర్ పరిధిలో సుమారు 11.0 TFLOPS సింగిల్-ప్రెసిషన్ పనితీరును, సుమారు 339 GB/s మెమరీ బ్యాండ్‌విడ్త్‌ను అందిస్తుంది. మీరు ఈ GPUని ONIEలో గంటవారీ బిల్లింగ్, SSH యాక్సెస్ మరియు వెంటనే ఉపయోగించగల సాఫ్ట్‌వేర్ టెంప్లేట్‌లతో అద్దెకు తీసుకోవచ్చు.

స్పెసిఫికేషన్‌లు

GPUకి VRAM

11 GB

ఆర్కిటెక్చర్

NVIDIA Pascal

కంప్యూట్ సామర్థ్యం

6.1

FP32 కంప్యూట్

≈ 11 TFLOPS

మెమరీ బ్యాండ్‌విడ్త్

≈ 339 GB/s

పవర్ పరిమితి

250 W

ప్రస్తుతం జాబితాలో ఉన్న యంత్రాల కోసం ఇన్‌ఫ్రాస్ట్రక్చర్ ప్రొవైడర్ నివేదించిన విలువలు; వాస్తవ పనితీరు యంత్రాన్ని బట్టి మారుతుంది.

అందుబాటులో ఉన్న కాన్ఫిగరేషన్‌లు

ప్రత్యక్ష స్టాక్ మరియు ధరలు, నిరంతరం నవీకరించబడతాయి. ఆర్డర్ చేయడానికి ముందు తుది ధర నిర్ధారించబడుతుంది.

ప్రత్యక్ష ధరలు లోడ్ అవుతున్నాయి…

GTX 1080 Ti దేనికి ఉపయోగపడుతుంది

ప్రోటోటైపింగ్ మరియు కోడ్ పరీక్ష

compute capability 6.1 గల Pascal ఆర్కిటెక్చర్ కార్డ్‌పై PyTorch/CUDA స్క్రిప్ట్‌లను పరీక్షించి, డీబగ్ చేయండి.

తేలికపాటి మోడల్ ఇన్ఫరెన్స్

11 GB మెమరీ పరిమితిలో సరిపోయే చిన్న భాషా మోడళ్లను Ollama లేదా vLLM టెంప్లేట్‌ల ద్వారా నడపండి.

ప్రామాణిక ఇమేజ్ జనరేషన్

ఆధునిక టెన్సర్ కోర్లు అవసరం లేని ప్రాథమిక ఇమేజ్ సింథసిస్ పైప్‌లైన్‌లను నడపడానికి ComfyUI టెంప్లేట్‌ను ఉపయోగించండి.

క్లాసిక్ డీప్ లెర్నింగ్ ట్రైనింగ్

సుమారు 11.0 TFLOPS సింగిల్-ప్రెసిషన్ కంప్యూట్‌ను ఉపయోగించి ప్రాథమిక న్యూరల్ నెట్‌వర్క్‌లు మరియు కంప్యూటర్ విజన్ మోడళ్లను ట్రైన్ చేయండి.

ఇది మీకు సరైన GPUనా?

లెగసీ వర్క్‌లోడ్‌లు, కోడ్ పరీక్ష లేదా చిన్న స్థాయి ఇన్ఫరెన్స్ కోసం మీకు 11 GB VRAM అవసరమైనప్పుడు, Pascal తరం వినియోగదారు కార్డ్ అయిన GTX 1080 Tiని ఎంచుకోండి. పెద్ద మోడళ్లు లేదా ఆధునిక మిక్స్‌డ్-ప్రెసిషన్ వర్క్‌లోడ్‌ల కోసం ఎక్కువ మెమరీ ఉన్న కొత్త GPUని, లేదా కనీస VRAM సరిపోయే పనుల కోసం చిన్న వినియోగదారు GPUని ఎంచుకోండి.

సారూప్య GPUలతో పోల్చండి

GPUGPUకి VRAMఆర్కిటెక్చర్FP32 కంప్యూట్గంటకు ప్రారంభ ధరవివరాలు
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—వివరాలు
RTX 306012 GBAmpere≈ 12 TFLOPS—వివరాలు
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—వివరాలు

తరచుగా అడిగే ప్రశ్నలు

ఆధునిక LLM ఇన్ఫరెన్స్ మరియు ఫైన్-ట్యూనింగ్‌కు GTX 1080 Ti సరిపోతుందా?

11 GB VRAM మరియు compute capability 6.1 గల Pascal ఆర్కిటెక్చర్‌తో, ఇది Ollama వంటి టెంప్లేట్‌ల ద్వారా క్వాంటైజ్ చేసిన చిన్న భాషా మోడళ్లను నడపగలదు. పెద్ద మోడళ్ల కోసం లేదా కొత్త ఆర్కిటెక్చర్ ఫీచర్‌లపై ఆధారపడే వర్క్‌లోడ్‌ల కోసం, ఎక్కువ VRAM ఉన్న ఆధునిక GPU సిఫార్సు చేయబడుతుంది.

ఈ GPU కోసం ONIEలో ఏ సాఫ్ట్‌వేర్ టెంప్లేట్‌లు అందుబాటులో ఉన్నాయి?

ONIE PyTorch/CUDA, vLLM, Ollama మరియు ComfyUI వంటి సిద్ధ టెంప్లేట్‌లను అందిస్తుంది. మీ స్వంత వాతావరణాన్ని కాన్ఫిగర్ చేయడానికి పూర్తి SSH యాక్సెస్ కూడా లభిస్తుంది.

ఈ కార్డ్ యొక్క పనితీరు మరియు మెమరీ బ్యాండ్‌విడ్త్ ఎలా కొలుస్తారు?

ఇన్‌ఫ్రాస్ట్రక్చర్ ప్రొవైడర్ సుమారు 11.0 TFLOPS సింగిల్-ప్రెసిషన్ కంప్యూట్‌ను నివేదిస్తుంది, మరియు మెమరీ బ్యాండ్‌విడ్త్‌ను సుమారు 339 GB/sగా కొలుస్తుంది. ఈ కార్డ్ 250 W థర్మల్ డిజైన్ పవర్ వద్ద పనిచేస్తుంది.

GTX 1080 Tiని అద్దెకు తీసుకున్నప్పుడు బిల్లింగ్ ఎలా పనిచేస్తుంది?

ONIEలో అద్దెలు గంటవారీ బిల్లింగ్‌ను ఉపయోగిస్తాయి, ఇందులో మీ ఇన్‌స్టెన్స్ యాక్టివ్‌గా ఉన్న సమయానికి మాత్రమే చెల్లిస్తారు.

GTX 1080 Tiను గంటల వారీగా అద్దెకు తీసుకోండి

ఖాతాను సృష్టించండి, కాన్ఫిగరేషన్‌ను ఎంచుకుని SSH ద్వారా కనెక్ట్ చేయండి. మీరు GPUను తొలగించినప్పుడు బిల్లింగ్ ఆగిపోతుంది.

GTX 1080 Tiను అద్దెకు తీసుకోండి

అన్ని GPUలు →