GPU Cloud · NVIDIA · Ampere

NVIDIA RTX 3060 GPU કલાકના હિસાબે ભાડે લો

NVIDIA RTX 3060 એ 12 GB VRAM અને 170 W પાવર મર્યાદા ધરાવતું ગ્રાહક-શ્રેણીનું Ampere આર્કિટેક્ચર GPU છે. તે લગભગ 12.0 TFLOPS ની માનક ફ્લોટિંગ-પોઈન્ટ કામગીરી અને લગભગ 318 GB/s ની મેમરી બેન્ડવિડ્થ આપે છે, અને CUDA compute capability 8.6ને સપોર્ટ કરે છે. ONIE પર, તમે પ્રતિ-કલાક બિલિંગ, સંપૂર્ણ SSH ઍક્સેસ અને PyTorch/CUDA, vLLM, Ollama તથા ComfyUI માટેના તૈયાર ટેમ્પલેટ સાથે RTX 3060 ભાડે લઈ શકો છો.

સ્પેસિફિકેશન

પ્રતિ GPU VRAM

12 GB

આર્કિટેક્ચર

NVIDIA Ampere

કમ્પ્યુટ ક્ષમતા

8.6

FP32 કમ્પ્યુટ

≈ 12 TFLOPS

મેમરી બેન્ડવિડ્થ

≈ 318 GB/s

પાવર મર્યાદા

170 W

હાલમાં સૂચિબદ્ધ મશીનો માટે ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતા દ્વારા જાણ કરાયેલાં મૂલ્યો; વાસ્તવિક પ્રદર્શન મશીન પ્રમાણે બદલાય છે.

ઉપલબ્ધ રૂપરેખાંકનો

લાઇવ સ્ટોક અને કિંમતો, સતત અપડેટ થાય છે. ઓર્ડર આપતા પહેલાં અંતિમ કિંમતની પુષ્ટિ થાય છે.

લાઇવ કિંમતો લોડ થઈ રહી છે…

RTX 3060 શા માટે સારું છે

ક્વોન્ટાઇઝ્ડ LLM ઇન્ફરન્સ

પ્રી-કોન્ફિગર કરેલા Ollama અથવા vLLM ટેમ્પલેટનો ઉપયોગ કરીને 12 GB VRAM ની મર્યાદામાં નાના અથવા ક્વોન્ટાઇઝ્ડ ભાષા મોડેલ ચલાવો.

ComfyUI સાથે છબી નિર્માણ

12 GB મેમરીમાં સરળતાથી સમાઈ જતા સ્ટાન્ડર્ડ ડિફ્યુઝન વર્કફ્લો અને ઇમેજ સિન્થેસિસ પાઇપલાઇન ચલાવો.

PyTorch પ્રોટોટાઇપિંગ અને ડિબગિંગ

મોટા હાર્ડવેર પર વર્કલોડ વધારતા પહેલાં compute capability 8.6 ધરાવતા Ampere કાર્ડ પર CUDA કોડ વિકસાવો અને ચકાસો.

નાના પાયે મોડેલ ફાઇન-ટ્યુનિંગ

લગભગ 12.0 TFLOPS કમ્પ્યુટ પૂરતું હોય તેવા સાધારણ ડેટાસેટ પર પેરામીટર-કાર્યક્ષમ ફાઇન-ટ્યુનિંગ કરો.

શું આ તમારા માટે યોગ્ય GPU છે?

ડેટાસેન્ટર હાર્ડવેરના ખર્ચ વિના 12 GB VRAM ની જરૂર હોય તેવા ડેવલપમેન્ટ, પ્રોટોટાઇપિંગ અને હલકા ઇન્ફરન્સ કાર્યો માટે RTX 3060 પસંદ કરો. જો તમારા મોડેલ 12 GB થી વધુ હોય અથવા લગભગ 318 GB/s કરતાં વધુ મેમરી બેન્ડવિડ્થની જરૂર હોય, તો મોટું GPU પસંદ કરો; જો તમે ઓછી મેમરી જરૂરિયાતવાળી ન્યૂનતમ સ્ક્રિપ્ટ જ ચલાવતા હો, તો નાનું GPU પસંદ કરો.

સમાન GPU સાથે સરખામણી કરો

GPUપ્રતિ GPU VRAMઆર્કિટેક્ચરFP32 કમ્પ્યુટપ્રતિ કલાક શરૂઆતવિગતો
RTX 306012 GBAmpere≈ 12 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—વિગતો
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—વિગતો
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—વિગતો

વારંવાર પૂછાતા પ્રશ્નો

શું RTX 3060 LLM ઇન્ફરન્સ અને છબી નિર્માણ માટે યોગ્ય છે?

હા, 12 GB VRAM Ollama અને vLLM દ્વારા નાના અથવા ક્વોન્ટાઇઝ્ડ ભાષા મોડેલ ચલાવવા માટે તેમજ ComfyUI માં સ્ટાન્ડર્ડ ડિફ્યુઝન મોડેલ માટે સારી રીતે યોગ્ય છે. 12 GB કરતાં મોટા, ક્વોન્ટાઇઝ નહીં થયેલા મોડેલ માટે તમારે વધુ મેમરી ક્ષમતાવાળા GPU ની જરૂર પડશે.

આ ગ્રાહક-શ્રેણીનું Ampere કાર્ડ મોટા GPU ની સરખામણીમાં કેવું છે?

RTX 3060 એન્ટ્રી-લેવલ ગ્રાહક કાર્ડ માટે ઉદાર 12 GB મેમરી બફર આપે છે, સાથે લગભગ 12.0 TFLOPS કમ્પ્યુટ અને લગભગ 318 GB/s મેમરી બેન્ડવિડ્થ આપે છે. ભારે ટ્રેઇનિંગ માટે ઉચ્ચ-શ્રેણીના ગ્રાહક અથવા વર્કસ્ટેશન GPU પર જવાથી ઝડપી મેમરી બેન્ડવિડ્થ અને વધુ કમ્પ્યુટ થ્રુપુટ મળે છે.

હું મારા RTX 3060 ઇન્સ્ટન્સ સાથે કનેક્ટ થઈ તેને કેવી રીતે સેટ અપ કરું?

ONIE પરના દરેક ભાડા સાથે સંપૂર્ણ કમાન્ડ-લાઇન નિયંત્રણ માટે સીધી SSH ઍક્સેસ શામેલ છે. તમે PyTorch/CUDA, vLLM, Ollama અથવા ComfyUI માટેના તૈયાર ટેમ્પલેટનો ઉપયોગ કરીને તરત જ શરૂ પણ કરી શકો છો.

ONIE પર RTX 3060 માટે બિલિંગ કેવી રીતે કામ કરે છે?

તમારું ભાડું સક્રિય હોય ત્યાં સુધી ઇન્સ્ટન્સનું પ્રતિ-કલાક ધોરણે બિલિંગ થાય છે. આનાથી તમે compute capability 8.6 ધરાવતા Ampere આર્કિટેક્ચર કાર્ડ પર પ્રયોગો ચલાવી શકો છો અને પૂર્ણ થયા પછી ઇન્સ્ટન્સ બંધ કરી શકો છો.

RTX 3060 કલાક પ્રમાણે ભાડે લો

એકાઉન્ટ બનાવો, રૂપરેખાંકન પસંદ કરો અને SSH દ્વારા કનેક્ટ કરો. GPU કાઢી નાખો ત્યારે બિલિંગ બંધ થાય છે.

RTX 3060 ભાડે લો

બધા GPU →