LLM ኢንፈረንስ
ቋንቋ ሞዴሎችን ለማቅረብና ለመሞከር vLLM፣ SGLang ወይም Ollama ከOpen WebUI ጋር።
የNVIDIA GPU አገልጋዮችን በሰዓት ወይም በክፍያ ዑደት ይከራዩ። የቀጥታ ውቅሮችንና ዋጋዎችን ያወዳድሩ፣ ዝግጁ ከሆነ አብነት ይጀምሩ እና በ SSH ወይም በአሳሽ ተርሚናል ይገናኙ።
በONIE GPU Cloud ከቀጥታ ክምችቱ GPU አገልጋይ ይከራያሉ፦ የGPU ሞዴልን፣ VRAMን እና ዲስክን ይምረጡ፣ እንደ PyTorch፣ vLLM፣ Ollama ወይም ComfyUI ካሉ አብነቶች ይጀምሩ፣ ከዚያም በ SSH ይገናኙ። የሰዓት አገልጋዮች ከመለያዎ ሂሳብ ይከፈላሉ፤ የቆመ የሰዓት አገልጋይ የሚከፈለው ለዲስኩ ብቻ ነው።
ቀጥታ ክምችት፡ ተገኝነትና ዋጋዎች ከገበያው ጋር ይለዋወጣሉ። ኮንሶሉ ከማዘዝዎ በፊት የመጨረሻውን ዋጋ ያረጋግጣል።
ቋንቋ ሞዴሎችን ለማቅረብና ለመሞከር vLLM፣ SGLang ወይም Ollama ከOpen WebUI ጋር።
በእራስዎ ዳታ ላይ ቋንቋ ሞዴሎችን ለማስተካከል Unsloth Studio።
ለFlux፣ ለSDXL እና ለቪዲዮ ሥራ ፍሰቶች ComfyUI።
ከNVIDIA CUDA ጋር የPyTorch እና Ubuntu 24.04 ምስሎች፣ በ SSH የሚገኙ።
በአሳሽ ውስጥ የUbuntu ዴስክቶፕ፣ ወይም በሚፈልጉበት ጊዜ ሙሉ KVM ምናባዊ ማሽን።
እያንዳንዱ አብነት ዝቅተኛውን የCUDA ስሪት፣ VRAMና ዲስክ ይዘረዝራል፤ ለእሱ ተስማሚ GPUዎች ብቻ ይቀርባሉ።
በGPU ማህደረ ትውስታ ውስጥ የሚገቡ ሥራዎች፦ LLM ኢንፈረንስና ማስተካከል፣ ምስልና ቪዲዮ ማመንጨት፣ ሬንደሪንግ እና CUDA ልማት። ለPyTorch፣ vLLM፣ SGLang፣ Ollama፣ Unsloth እና ComfyUI አብነቶች ሶፍትዌሩን ለእርስዎ ይጭናሉ።
በSSH ቁልፍዎ፣ ወይም ከኮንሶሉ በአሳሽዎ ተርሚናል። የዴስክቶፕና VM አብነቶች ግራፊካዊ መዳረሻም ይሰጣሉ።
ዋጋዎች ከቀጥታ GPU ክምችት የሚመጡ ናቸው እና ሊለወጡ ይችላሉ። ኮንሶሉ ከማዘዝዎ በፊት የተረጋገጠውን ዋጋ ያሳያል፤ አገልጋይዎም በዚያ በተረጋገጠ ዋጋ ይከፈላል።
በሰዓት ክፍያ ሲሆን፣ የቆመ አገልጋይ የሚከፈለው ለዲስኩ ብቻ ነው። ዳታው ከእንግዲህ ካላስፈለገዎት አገልጋዩን ይሰርዙ።
ከላይ ያለው ሰንጠረዥ አሁን የሚገኙ ውቅሮችን ይዘረዝራል፣ ክምችት ሲኖር NVIDIA RTX 5090 ከ32 GB VRAM ጋር ጨምሮ። ተገኝነት በቀኑ ውስጥ ይለዋወጣል።