LLM انفرنس
زبان کے ماڈلز چلانے اور جانچنے کے لیے Open WebUI کے ساتھ vLLM، SGLang یا Ollama۔
NVIDIA GPU سرورز گھنٹہ وار یا بلنگ سائیکل کے مطابق کرائے پر لیں۔ لائیو ترتیبات اور قیمتوں کا موازنہ کریں، تیار ٹیمپلیٹ سے شروع کریں اور SSH یا براؤزر ٹرمینل کے ذریعے منسلک ہوں۔
ONIE GPU Cloud کے ساتھ آپ لائیو دستیابی سے GPU سرور کرائے پر لیتے ہیں: GPU ماڈل، VRAM اور ڈسک منتخب کریں، PyTorch، vLLM، Ollama یا ComfyUI جیسے ٹیمپلیٹ سے شروع کریں، پھر SSH کے ذریعے منسلک ہوں۔ گھنٹہ وار سرورز کا چارج آپ کے اکاؤنٹ بیلنس سے لیا جاتا ہے، اور بند گھنٹہ وار سرور سے صرف اس کی ڈسک کا بل لیا جاتا ہے۔
لائیو انوینٹری: دستیابی اور قیمتیں مارکیٹ کے ساتھ بدلتی ہیں۔ آرڈر کرنے سے پہلے کنسول حتمی قیمت کی تصدیق کرتا ہے۔
زبان کے ماڈلز چلانے اور جانچنے کے لیے Open WebUI کے ساتھ vLLM، SGLang یا Ollama۔
اپنے ڈیٹا پر زبان کے ماڈلز کی فائن ٹیوننگ کے لیے Unsloth Studio۔
Flux، SDXL اور ویڈیو ورک فلوز کے لیے ComfyUI۔
NVIDIA CUDA کے ساتھ PyTorch اور Ubuntu 24.04 امیجز، SSH کے ذریعے قابلِ رسائی۔
براؤزر میں Ubuntu ڈیسک ٹاپ، یا ضرورت ہو تو مکمل KVM ورچوئل مشین۔
ہر ٹیمپلیٹ اپنا کم از کم CUDA ورژن، VRAM اور ڈسک درج کرتا ہے؛ اس کے لیے صرف موافق GPUs پیش کیے جاتے ہیں۔
وہ ورک لوڈز جو GPU میموری میں سما جائیں: LLM انفرنس اور فائن ٹیوننگ، امیج اور ویڈیو جنریشن، رینڈرنگ اور CUDA ڈیولپمنٹ۔ PyTorch، vLLM، SGLang، Ollama، Unsloth اور ComfyUI کے ٹیمپلیٹس آپ کے لیے سافٹ ویئر خود انسٹال کرتے ہیں۔
اپنی کی کے ساتھ SSH کے ذریعے، یا کنسول سے اپنے براؤزر کے ٹرمینل کے ذریعے۔ ڈیسک ٹاپ اور VM ٹیمپلیٹس گرافیکل رسائی بھی فراہم کرتے ہیں۔
قیمتیں لائیو GPU دستیابی سے آتی ہیں اور تبدیل ہو سکتی ہیں۔ آرڈر کرنے سے پہلے کنسول تصدیق شدہ قیمت دکھاتا ہے، اور آپ کے سرور کا بل اسی تصدیق شدہ قیمت پر بنتا ہے۔
گھنٹہ وار بلنگ کی صورت میں، بند سرور سے صرف اس کی ڈسک کا چارج لیا جاتا ہے۔ جب آپ کو اس کے ڈیٹا کی ضرورت نہ رہے تو سرور حذف کر دیں۔
اوپر دی گئی جدول میں فی الوقت دستیاب کنفیگریشنز درج ہیں، جن میں NVIDIA RTX 5090 (32 GB VRAM کے ساتھ) بھی شامل ہے، جب وہ اسٹاک میں موجود ہو۔ دستیابی دن بھر تبدیل ہوتی رہتی ہے۔