NVIDIA CMP 170HX GPU કલાકના હિસાબે ભાડે લો
NVIDIA CMP 170HX એ Ampere આર્કિટેક્ચરનું ડેટાસેન્ટર GPU છે, જેમાં 64 GB VRAM અને 250 W TDP છે. તે કમ્પ્યુટ કેપેબિલિટી 8.0 પર લગભગ 1516 GB/s મેમરી બેન્ડવિડ્થ અને લગભગ 12.1 TFLOPS સિંગલ-પ્રિસિઝન કમ્પ્યુટ આપે છે. ONIE પર તમે આ કાર્ડને પ્રતિ-કલાક બિલિંગ, સંપૂર્ણ SSH એક્સેસ અને PyTorch/CUDA, vLLM, Ollama તથા ComfyUI માટેના તૈયાર ટેમ્પલેટ સાથે ડિપ્લોય કરી શકો છો.
સ્પેસિફિકેશન
પ્રતિ GPU VRAM
આર્કિટેક્ચર
કમ્પ્યુટ ક્ષમતા
FP32 કમ્પ્યુટ
મેમરી બેન્ડવિડ્થ
પાવર મર્યાદા
હાલમાં સૂચિબદ્ધ મશીનો માટે ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતા દ્વારા જાણ કરાયેલાં મૂલ્યો; વાસ્તવિક પ્રદર્શન મશીન પ્રમાણે બદલાય છે.
ઉપલબ્ધ રૂપરેખાંકનો
લાઇવ સ્ટોક અને કિંમતો, સતત અપડેટ થાય છે. ઓર્ડર આપતા પહેલાં અંતિમ કિંમતની પુષ્ટિ થાય છે.
લાઇવ કિંમતો લોડ થઈ રહી છે…
CMP 170HX શા માટે સારું છે
મેમરી-બાઉન્ડ LLM ઇન્ફરન્સ
64 GB VRAM ક્ષમતા અને લગભગ 1516 GB/s મેમરી બેન્ડવિડ્થનો લાભ લઈને vLLM અથવા Ollama દ્વારા મોટા ભાષા મોડેલ (LLM) સર્વ કરો.
હાઇ-મેમરી ડીપ લર્નિંગ
કમ્પ્યુટ કેપેબિલિટી 8.0 સાથે મોટી મેમરી ક્ષમતાની જરૂર પડતા PyTorch/CUDA વર્કલોડ ચલાવો, મોડેલને ઉપકરણો વચ્ચે વિભાજિત કર્યા વિના.
જટિલ ઇમેજ જનરેશન વર્કફ્લો
ComfyUI માં 64 GB મેમરી પૂલની અંદર એકસાથે અનેક મોટા ડિફ્યુઝન ચેકપોઇન્ટ અને control nets લોડ કરો.
ડેટા પ્રોસેસિંગ અને સિમ્યુલેશન
250 W પાવર એન્વેલપમાં ઉચ્ચ મેમરી થ્રુપુટથી લાભ મેળવતા મેમરી-ઇન્ટેન્સિવ ડેટાસેન્ટર કાર્યો ચલાવો.
શું આ તમારા માટે યોગ્ય GPU છે?
જ્યારે તમારું વર્કલોડ કાચા સિંગલ-પ્રિસિઝન કમ્પ્યુટને બદલે મેમરી ક્ષમતા અને બેન્ડવિડ્થથી મર્યાદિત હોય ત્યારે CMP 170HX પસંદ કરો. જો તમને ઝડપી ટ્રેનિંગ ઇટરેશનની જરૂર હોય તો વધુ કમ્પ્યુટ થ્રુપુટવાળું GPU પસંદ કરો, અથવા જો તમારા મોડેલને 64 GB VRAMની જરૂર ન હોય તો નાનું કન્ઝ્યુમર કાર્ડ પસંદ કરો.
સમાન GPU સાથે સરખામણી કરો
વારંવાર પૂછાતા પ્રશ્નો
શું CMP 170HX LLM ઇન્ફરન્સ માટે યોગ્ય છે?
હા, તેની 64 GB VRAM અને લગભગ 1516 GB/s મેમરી બેન્ડવિડ્થ તેને vLLM અને Ollama જેવા ટેમ્પલેટનો ઉપયોગ કરીને મોટા ભાષા મોડેલ લોડ કરવા અને સર્વ કરવા માટે સારી રીતે યોગ્ય બનાવે છે. જોકે, તે લગભગ 12.1 TFLOPS સિંગલ-પ્રિસિઝન કમ્પ્યુટ આપે છે, તેથી પ્રોમ્પ્ટ પ્રોસેસિંગ વધુ કમ્પ્યુટ ઘનતાવાળા ડેટાસેન્ટર GPU કરતાં ધીમું હશે.
આ GPU સ્ટાન્ડર્ડ ડેટાસેન્ટર એક્સિલરેટર્સ સાથે કેવી રીતે સરખાવાય છે?
CMP 170HX માં મોટું 64 GB મેમરી બફર અને સ્ટાન્ડર્ડ Ampere ડેટાસેન્ટર કાર્ડ જેવી જ ઉચ્ચ મેમરી બેન્ડવિડ્થ છે, અને તે 250 W TDP પર કામ કરે છે. તેનો મુખ્ય ટ્રેડ-ઓફ લગભગ 12.1 TFLOPS નો ઓછો કમ્પ્યુટ થ્રુપુટ છે, જેના કારણે તે ભારે કમ્પ્યુટ વર્કલોડ કરતાં મેમરી-બાઉન્ડ કાર્યો માટે વધુ યોગ્ય છે.
આ GPU માટે કયા સોફ્ટવેર એન્વાયર્નમેન્ટ ઉપલબ્ધ છે?
આ કાર્ડ CUDA કમ્પ્યુટ કેપેબિલિટી 8.0ને સપોર્ટ કરે છે અને ONIE પર PyTorch/CUDA, vLLM, Ollama તથા ComfyUI સહિતના પૂર્વ-કન્ફિગર ટેમ્પલેટનો ઉપયોગ કરીને લોન્ચ કરી શકાય છે. કસ્ટમ લાઇબ્રેરી ઇન્સ્ટોલ કરવા અને તમારા એન્વાયર્નમેન્ટનું સંચાલન કરવા માટે તમને સીધી SSH એક્સેસ પણ મળે છે.
CMP 170HX ભાડે લેતી વખતે બિલિંગ કેવી રીતે થાય છે?
ONIE પરના ઇન્સ્ટન્સ પ્રતિ-કલાક બિલિંગનો ઉપયોગ કરે છે, તેથી તમે ફક્ત જ્યાં સુધી તમારું GPU સક્રિય રહે ત્યાં સુધીનો સમય ચૂકવો છો.
CMP 170HX કલાક પ્રમાણે ભાડે લો
એકાઉન્ટ બનાવો, રૂપરેખાંકન પસંદ કરો અને SSH દ્વારા કનેક્ટ કરો. GPU કાઢી નાખો ત્યારે બિલિંગ બંધ થાય છે.
CMP 170HX ભાડે લો