LLM ઇન્ફરન્સ
ભાષા મોડેલ સર્વ કરવા અને ચકાસવા માટે Open WebUI સાથે vLLM, SGLang અથવા Ollama.
NVIDIA GPU સર્વર કલાકદીઠ અથવા બિલિંગ ચક્ર પ્રમાણે ભાડે લો. લાઇવ કન્ફિગરેશન અને કિંમતોની તુલના કરો, તૈયાર ટેમ્પલેટથી શરૂઆત કરો અને SSH અથવા બ્રાઉઝર ટર્મિનલ દ્વારા કનેક્ટ કરો.
ONIE GPU Cloud પર તમે લાઇવ ઇન્વેન્ટરીમાંથી GPU સર્વર ભાડે લો છો: GPU મોડેલ, VRAM અને ડિસ્ક પસંદ કરો, PyTorch, vLLM, Ollama અથવા ComfyUI જેવા ટેમ્પલેટથી શરૂઆત કરો, પછી SSH દ્વારા કનેક્ટ કરો. કલાકદીઠ સર્વરનો શુલ્ક તમારા એકાઉન્ટ બેલેન્સમાંથી લેવાય છે, અને બંધ કરેલા કલાકદીઠ સર્વર માટે માત્ર તેની ડિસ્કનું બિલ લેવાય છે.
લાઇવ ઇન્વેન્ટરી: ઉપલબ્ધતા અને કિંમતો બજાર સાથે બદલાય છે. ઓર્ડર કરતા પહેલાં કન્સોલ અંતિમ કિંમતની પુષ્ટિ કરે છે.
ભાષા મોડેલ સર્વ કરવા અને ચકાસવા માટે Open WebUI સાથે vLLM, SGLang અથવા Ollama.
તમારા પોતાના ડેટા પર ભાષા મોડેલ ફાઇન-ટ્યુન કરવા માટે Unsloth Studio.
Flux, SDXL અને વિડિયો વર્કફ્લો માટે ComfyUI.
NVIDIA CUDA સાથે PyTorch અને Ubuntu 24.04 ઇમેજ, SSH દ્વારા ઍક્સેસ કરી શકાય તેવી.
બ્રાઉઝરમાં Ubuntu ડેસ્કટૉપ, અથવા જરૂર હોય ત્યારે સંપૂર્ણ KVM વર્ચ્યુઅલ મશીન.
દરેક ટેમ્પલેટ તેની લઘુત્તમ CUDA આવૃત્તિ, VRAM અને ડિસ્કની યાદી આપે છે; તેના માટે માત્ર સુસંગત GPU ઓફર કરવામાં આવે છે.
GPU મેમરીમાં સમાઈ શકે તેવા વર્કલોડ: LLM ઇન્ફરન્સ અને ફાઇન-ટ્યુનિંગ, ઇમેજ અને વિડિયો જનરેશન, રેન્ડરિંગ અને CUDA ડેવલપમેન્ટ. PyTorch, vLLM, SGLang, Ollama, Unsloth અને ComfyUI માટેના ટેમ્પલેટ તમારા માટે સોફ્ટવેર ઇન્સ્ટોલ કરે છે.
તમારી કી સાથે SSH દ્વારા, અથવા કન્સોલમાંથી તમારા બ્રાઉઝરના ટર્મિનલ દ્વારા. ડેસ્કટૉપ અને VM ટેમ્પલેટ ગ્રાફિકલ ઍક્સેસ પણ આપે છે.
કિંમતો લાઇવ GPU ઇન્વેન્ટરીમાંથી આવે છે અને બદલાઈ શકે છે. ઓર્ડર કરતાં પહેલાં કન્સોલ પુષ્ટિ થયેલ કિંમત બતાવે છે, અને તમારા સર્વરનો શુલ્ક તે પુષ્ટિ થયેલ કિંમતે લેવાય છે.
કલાકદીઠ બિલિંગ સાથે, બંધ કરેલા સર્વરનો ફક્ત ડિસ્ક માટે જ ચાર્જ લેવાય છે. જ્યારે તમારે તેના ડેટાની જરૂર ન હોય ત્યારે સર્વર ડિલીટ કરો.
ઉપરના કોષ્ટકમાં હાલમાં ઉપલબ્ધ કન્ફિગરેશન દર્શાવેલાં છે, જેમાં 32 GB VRAM ધરાવતું NVIDIA RTX 5090 પણ સામેલ છે, જ્યારે તે સ્ટોકમાં હોય. ઉપલબ્ધતા દિવસ દરમિયાન બદલાતી રહે છે.