استدلال LLM
تشغيل النماذج التي تتسع في 32 GB، وغالباً ما تكون مكمّمة، باستخدام vLLM أو SGLang أو Ollama.
خوادم RTX 5090 بذاكرة GDDR7 سعة 32 GB على معمارية Blackwell، لاستدلال نماذج LLM وتوليد الصور والتطوير باستخدام CUDA. اطّلع على الإعدادات والأسعار الحالية، ثم أنشئ خادمك من وحدة التحكم.
تؤجر ONIE خوادم NVIDIA RTX 5090 GPU بسعة 32 GB من ذاكرة GDDR7 VRAM من مخزون مباشر. اختر قالباً مبنياً لإصدار CUDA 12.8 أو أحدث، مثل PyTorch أو vLLM أو ComfyUI، وحدد حجم القرص وادفع بالساعة أو حسب دورة الفوترة؛ ثم اتصل عبر SSH أو الطرفية في المتصفح.
مخزون مباشر: يتغير التوفر والأسعار حسب السوق. تؤكد لوحة التحكم السعر النهائي قبل إتمام الطلب.
تشغيل النماذج التي تتسع في 32 GB، وغالباً ما تكون مكمّمة، باستخدام vLLM أو SGLang أو Ollama.
مسارات عمل ComfyUI مع نماذج Flux وSDXL ونماذج الفيديو.
ضبط دقيق بأسلوب LoRA للنماذج الأصغر باستخدام Unsloth Studio.
Ubuntu 24.04 مع CUDA 13.0 لبناء واختبار شيفرات GPU.
تحقق من الحد الأدنى المطلوب من VRAM للقالب قبل الطلب؛ فالنماذج الأكبر من 32 GB تحتاج إلى تكميم (quantization) أو إعداد متعدد وحدات GPU.
32 GB من نوع GDDR7 لكل GPU. في الإعداد متعدد وحدات GPU، تمتلك كل GPU ذاكرة 32 GB خاصة بها.
تستخدم بطاقة RTX 5090 معمارية Blackwell وتحتاج إلى CUDA 12.8 أو أحدث. تستخدم قوالب RTX 5090 إصدار CUDA 12.8 أو 13.0، ولا تُعرض سوى الخوادم المتوافقة.
بالساعة أثناء تشغيله، أو بدورة شهرية أو ربع سنوية أو نصف سنوية أو سنوية. يُحاسب على القرص لكل GB، وعندما يكون الخادم بنظام الساعة متوقفاً تتم فوترته على القرص فقط.
نعم، النماذج التي تتسع في 32 GB من VRAM، وغالباً مع التكميم، أو النماذج الأكبر الموزعة عبر عدة وحدات GPU عند توفر إعداد متعدد وحدات GPU.
يتبع التوفر المخزون الفوري. تحقق مجدداً في وقت لاحق، أو اختر GPU أخرى بذاكرة VRAM كافية في صفحة GPU Cloud.