NVIDIA L4 GPU કલાકના હિસાબે ભાડે લો
NVIDIA L4 એ Ada Lovelace આર્કિટેક્ચર પર આધારિત ડેટાસેન્ટર GPU છે, જેમાં 22 GB VRAM અને 72 W પાવર એન્વલપ છે. તે લગભગ 24.2 TFLOPS સિંગલ-પ્રિસિઝન ફ્લોટિંગ-પોઇન્ટ પ્રદર્શન અને લગભગ 221 GB/s મેમરી બેન્ડવિડ્થ આપે છે, અને CUDA compute capability 8.9 ધરાવે છે. ONIE પર તેને પ્રતિ-કલાક બિલિંગ, સંપૂર્ણ SSH ઍક્સેસ અને PyTorch/CUDA, vLLM, Ollama તથા ComfyUI માટેના તૈયાર ટેમ્પલેટ સાથે ભાડે લો.
સ્પેસિફિકેશન
પ્રતિ GPU VRAM
આર્કિટેક્ચર
કમ્પ્યુટ ક્ષમતા
FP32 કમ્પ્યુટ
મેમરી બેન્ડવિડ્થ
પાવર મર્યાદા
હાલમાં સૂચિબદ્ધ મશીનો માટે ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતા દ્વારા જાણ કરાયેલાં મૂલ્યો; વાસ્તવિક પ્રદર્શન મશીન પ્રમાણે બદલાય છે.
ઉપલબ્ધ રૂપરેખાંકનો
લાઇવ સ્ટોક અને કિંમતો, સતત અપડેટ થાય છે. ઓર્ડર આપતા પહેલાં અંતિમ કિંમતની પુષ્ટિ થાય છે.
લાઇવ કિંમતો લોડ થઈ રહી છે…
L4 શા માટે સારું છે
ભાષા મોડેલ ઇન્ફરન્સ
પૂર્વ-કન્ફિગર કરેલા vLLM અથવા Ollama ટેમ્પલેટનો ઉપયોગ કરીને 22 GB VRAM બફરમાં ક્વોન્ટાઇઝ્ડ અથવા નાનાથી મધ્યમ કદના ભાષા મોડેલ ચલાવો.
ઇમેજ જનરેશન વર્કફ્લો
Ada Lovelace આર્કિટેક્ચરની સુવિધાઓનો ઉપયોગ કરતી વખતે 22 GB મેમરીમાં આરામથી સમાઈ જતી ComfyUI પાઇપલાઇન ડિપ્લોય કરો.
હલકું ફાઇન-ટ્યુનિંગ
ઉચ્ચ વૉટેજના ડેટાસેન્ટર કાર્ડની જરૂર વગર PyTorch/CUDA એન્વાયર્નમેન્ટમાં પેરામીટર-કાર્યક્ષમ ફાઇન-ટ્યુનિંગ અને એડેપ્ટર ટ્રેનિંગ જૉબ ચલાવો.
બેચ મીડિયા અને વિઝન
72 W રેટિંગ ધરાવતા ડેટાસેન્ટર GPU પર કમ્પ્યુટર વિઝન ઇન્ફરન્સ અને વિડિયો વર્કલોડ પ્રોસેસ કરો.
શું આ તમારા માટે યોગ્ય GPU છે?
ઇન્ફરન્સ અથવા મધ્યમ ટ્રેનિંગ વર્કલોડ માટે 22 GB VRAM અને Ada Lovelace compute capability 8.9 જોઈએ ત્યારે L4 પસંદ કરો. જો તમારા મોડેલ 22 GB થી વધુ હોય અથવા લગભગ 221 GB/s થી વધુ મેમરી બેન્ડવિડ્થની જરૂર હોય, તો મોટું ડેટાસેન્ટર GPU પસંદ કરો; અને ઓછી મેમરી ધરાવતા મૂળભૂત ડેવલપમેન્ટ કાર્યો માટે નાનું કાર્ડ પસંદ કરી શકો છો.
સમાન GPU સાથે સરખામણી કરો
વારંવાર પૂછાતા પ્રશ્નો
શું NVIDIA L4 LLM ઇન્ફરન્સ માટે યોગ્ય છે?
હા, 22 GB VRAM તમને નાનાં અને મધ્યમ કદનાં ભાષા મોડેલ અથવા ક્વોન્ટાઇઝ્ડ વેઇટ હોસ્ટ કરવાની મંજૂરી આપે છે. ONIE પર vLLM અથવા Ollama ટેમ્પલેટ લૉન્ચ કરીને તમે તરત જ મોડેલ સર્વ કરવાનું શરૂ કરી શકો છો.
L4 મોટા ડેટાસેન્ટર GPU ની તુલનામાં કેવું છે?
L4 72 W પાવર વપરાશ, લગભગ 24.2 TFLOPS સિંગલ-પ્રિસિઝન કમ્પ્યુટ અને લગભગ 221 GB/s મેમરી બેન્ડવિડ્થ સાથે કાર્યક્ષમતા માટે ડિઝાઇન કરાયેલું છે. મોટા ડેટાસેન્ટર GPU ભારે ટ્રેનિંગ માટે વધુ VRAM અને ઊંચી મેમરી બેન્ડવિડ્થ આપે છે, જ્યારે L4 ખર્ચ-અસરકારક ઇન્ફરન્સ અને હલકા વર્કલોડ પર ધ્યાન કેન્દ્રિત કરે છે.
ONIE પર L4 માટે કયા સોફ્ટવેર ટેમ્પલેટ ઉપલબ્ધ છે?
PyTorch/CUDA, vLLM, Ollama અને ComfyUI માટેના તૈયાર ટેમ્પલેટનો ઉપયોગ કરીને તમે L4 ડિપ્લોય કરી શકો છો. બધા ઇન્સ્ટન્સમાં SSH ઍક્સેસ શામેલ છે, જેથી તમે તમારા સોફ્ટવેર એન્વાયર્નમેન્ટ અને CUDA compute capability 8.9 વર્કફ્લો કસ્ટમાઇઝ કરી શકો.
L4 ઇન્સ્ટન્સ માટે બિલિંગ કેવી રીતે કામ કરે છે?
ONIE L4 ઇન્સ્ટન્સ માટે પ્રતિ-કલાક ધોરણે બિલ કરે છે. તમે ફક્ત ઇન્સ્ટન્સ સક્રિય હોય તે સમય માટે ચૂકવણી કરો છો, જેથી ટૂંકા પ્રયોગો અને ચાલુ ઇન્ફરન્સ કાર્યો બંને માટે તે વ્યવહારુ બને છે.
L4 કલાક પ્રમાણે ભાડે લો
એકાઉન્ટ બનાવો, રૂપરેખાંકન પસંદ કરો અને SSH દ્વારા કનેક્ટ કરો. GPU કાઢી નાખો ત્યારે બિલિંગ બંધ થાય છે.
L4 ભાડે લો