NVIDIA L40S GPU કલાકના હિસાબે ભાડે લો
NVIDIA L40S એ Ada Lovelace ડેટાસેન્ટર GPU છે, જે ONIE પર ક્લાઉડ ભાડે માટે ઉપલબ્ધ છે. તેમાં 45 GB VRAM, લગભગ 73.3 TFLOPS સિંગલ-પ્રિસિઝન કમ્પ્યુટ અને લગભગ 626 GB/s મેમરી બેન્ડવિડ્થ છે, જે 350 W પાવર મર્યાદામાં કાર્ય કરે છે. CUDA compute capability 8.9ને સપોર્ટ કરતું આ ઇન્સ્ટન્સ માંગણીભર્યા AI ટ્રેનિંગ, ઇન્ફરન્સ અને ગ્રાફિક્સ વર્કલોડ સંભાળે છે, અને પ્રતિ-કલાક બિલિંગ સાથે આવે છે.
સ્પેસિફિકેશન
પ્રતિ GPU VRAM
આર્કિટેક્ચર
કમ્પ્યુટ ક્ષમતા
FP32 કમ્પ્યુટ
મેમરી બેન્ડવિડ્થ
પાવર મર્યાદા
હાલમાં સૂચિબદ્ધ મશીનો માટે ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતા દ્વારા જાણ કરાયેલાં મૂલ્યો; વાસ્તવિક પ્રદર્શન મશીન પ્રમાણે બદલાય છે.
ઉપલબ્ધ રૂપરેખાંકનો
લાઇવ સ્ટોક અને કિંમતો, સતત અપડેટ થાય છે. ઓર્ડર આપતા પહેલાં અંતિમ કિંમતની પુષ્ટિ થાય છે.
લાઇવ કિંમતો લોડ થઈ રહી છે…
L40S શા માટે સારું છે
લાર્જ લેંગ્વેજ મોડેલ (LLM) ઇન્ફરન્સ
vLLM અને Ollama જેવા તૈયાર ટેમ્પ્લેટ્સનો ઉપયોગ કરીને 45 GB મેમરી ક્ષમતામાં ક્વોન્ટાઇઝ્ડ અથવા ફુલ-પ્રિસિઝન ભાષા મોડેલ ડિપ્લોય કરો.
જનરેટિવ ઇમેજ વર્કફ્લો
Ada Lovelace આર્કિટેક્ચરનો લાભ લઈને ComfyUI માં જટિલ ડિફ્યુઝન પાઇપલાઇન અને બેચ જનરેશન કાર્યો ચલાવો.
ડીપ લર્નિંગ ફાઇન-ટ્યુનિંગ
PyTorch/CUDA વાતાવરણમાં લગભગ 73.3 TFLOPS કમ્પ્યુટનો ઉપયોગ કરીને ન્યુરલ નેટવર્ક અને LoRA એડેપ્ટર ફાઇન-ટ્યુન કરો.
ડેટાસેન્ટર ગ્રાફિક્સ અને રેન્ડરિંગ
લગભગ 626 GB/s મેમરી બેન્ડવિડ્થવાળા ડેટાસેન્ટર GPUનો લાભ મળે તેવા હેડલેસ રેન્ડરિંગ અને સિમ્યુલેશન કાર્યો ચલાવો.
શું આ તમારા માટે યોગ્ય GPU છે?
જ્યારે તમારા વર્કલોડને 45 GB VRAM અને ડેટાસેન્ટર-ગ્રેડ વિશ્વસનીયતાની જરૂર હોય, ત્યારે L40S પસંદ કરો; તે સામાન્ય કન્ઝ્યુમર કાર્ડથી આગળનું પગલું છે. જો તમારા મોડેલ ઓછી મેમરીમાં ફિટ થાય, તો નાનું વર્કસ્ટેશન અથવા કન્ઝ્યુમર GPU વધુ કિફાયતી છે, જ્યારે અતિ મોટા, અનક્વોન્ટાઇઝ્ડ ફાઉન્ડેશન મોડેલ માટે મોટી મેમરીવાળું ડેટાસેન્ટર GPU વધુ યોગ્ય છે.
સમાન GPU સાથે સરખામણી કરો
વારંવાર પૂછાતા પ્રશ્નો
શું NVIDIA L40S LLM ઇન્ફરન્સ અને ફાઇન-ટ્યુનિંગ માટે યોગ્ય છે?
હા, 45 GB VRAM અને CUDA compute capability 8.9 સાથે L40S મધ્યમથી મોટા ભાષા મોડેલ સર્વ કરવા અને પેરામીટર-એફિશિયન્ટ ફાઇન-ટ્યુનિંગ ચલાવવા માટે સારી રીતે યોગ્ય છે. તમે પહેલાંથી કન્ફિગર થયેલા vLLM, Ollama અથવા PyTorch/CUDA ટેમ્પ્લેટ સાથે ઇન્સ્ટન્સ લોન્ચ કરી શકો છો.
L40S ની સરખામણી કન્ઝ્યુમર GPU કે મોટા ડેટાસેન્ટર GPU સાથે કેવી રીતે થાય છે?
L40S સામાન્ય કન્ઝ્યુમર Ada Lovelace કાર્ડ કરતાં વધુ VRAM ઓફર કરે છે, જેથી તે ઑફલોડિંગ વિના મોટા મોડેલ વેઇટ્સ રાખી શકે છે. જોકે, તેની મેમરી બેન્ડવિડ્થ ઓછી છે, જ્યારે ઉચ્ચ-મેમરી કમ્પ્યુટ-ઓન્લી ડેટાસેન્ટર GPU મોટા મેમરી-બાઉન્ડ ટ્રેનિંગ જોબ માટે વધુ યોગ્ય છે.
ONIE પર મારા L40S ઇન્સ્ટન્સ સાથે કેવી રીતે કનેક્ટ થવું અને તેને કન્ફિગર કરવું?
ઇન્સ્ટન્સ બૂટ થતાં જ તમને તમારા વાતાવરણમાં સંપૂર્ણ SSH ઍક્સેસ મળે છે. તમે PyTorch/CUDA, ComfyUI, vLLM અને Ollama સહિતના તૈયાર ટેમ્પ્લેટ પસંદ કરીને તરત કામ શરૂ કરી શકો છો.
L40S માટે બિલિંગ કેવી રીતે કામ કરે છે?
ONIE તમામ L40S ભાડા માટે પ્રતિ-કલાક બિલિંગ વાપરે છે. ઇન્સ્ટન્સ ફાળવાયેલું હોય તે સમય માટે જ તમે ચુકવણી કરો છો.
L40S કલાક પ્રમાણે ભાડે લો
એકાઉન્ટ બનાવો, રૂપરેખાંકન પસંદ કરો અને SSH દ્વારા કનેક્ટ કરો. GPU કાઢી નાખો ત્યારે બિલિંગ બંધ થાય છે.
L40S ભાડે લો