NVIDIA L4 GPU گھنٹہ وار کرائے پر لیں
NVIDIA L4 ایک Ada Lovelace آرکیٹیکچر کا ڈیٹا سینٹر GPU ہے جس میں 22 GB VRAM اور 72 W پاور انویلپ ہے۔ یہ CUDA compute capability 8.9 کے ساتھ تقریباً 24.2 TFLOPS سنگل پریسژن فلوٹنگ پوائنٹ کارکردگی اور تقریباً 221 GB/s میموری بینڈوڈتھ فراہم کرتا ہے۔ اسے ONIE پر فی گھنٹہ بلنگ، مکمل SSH رسائی، اور PyTorch/CUDA، vLLM، Ollama اور ComfyUI کے لیے تیار ٹیمپلیٹس کے ساتھ کرائے پر لیں۔
تفصیلات
فی GPU VRAM
آرکیٹیکچر
کمپیوٹ کیپیبلٹی
FP32 کمپیوٹ
میموری بینڈوتھ
پاور حد
یہ قدریں انفراسٹرکچر فراہم کنندہ نے فی الحال درج مشینوں کے لیے بتائی ہیں؛ اصل کارکردگی ہر مشین کے لحاظ سے مختلف ہو سکتی ہے۔
دستیاب ترتیبات
براہِ راست اسٹاک اور قیمتیں، مسلسل اپ ڈیٹ ہوتی ہیں۔ آرڈر دینے سے پہلے حتمی قیمت کی تصدیق کی جاتی ہے۔
براہِ راست قیمتیں لوڈ ہو رہی ہیں…
L4 کس کام کے لیے موزوں ہے
لینگویج ماڈل انفرنس
پہلے سے ترتیب شدہ vLLM یا Ollama ٹیمپلیٹس استعمال کرتے ہوئے 22 GB VRAM بفر میں کوانٹائزڈ یا چھوٹے سے درمیانے درجے کے لینگویج ماڈلز چلائیں۔
امیج جنریشن ورک فلوز
ComfyUI پائپ لائنز ڈپلائے کریں جو Ada Lovelace آرکیٹیکچر کی خصوصیات استعمال کرتے ہوئے 22 GB میموری میں آرام سے فٹ ہو جائیں۔
ہلکی وزن فائن ٹیوننگ
PyTorch/CUDA ماحول میں پیرامیٹر-موثر فائن ٹیوننگ اور اڈاپٹر ٹریننگ جابز چلائیں، بغیر کسی زیادہ واٹیج والے ڈیٹا سینٹر کارڈ کی ضرورت کے۔
بیچ میڈیا اور وژن
72 W درجہ بند ڈیٹا سینٹر GPU پر کمپیوٹر وژن انفرنس اور ویڈیو ورک لوڈز پروسیس کریں۔
کیا یہ آپ کے لیے درست GPU ہے؟
اگر آپ کو انفرنس یا درمیانے درجے کی ٹریننگ ورک لوڈز کے لیے 22 GB VRAM اور Ada Lovelace compute capability 8.9 کی ضرورت ہو تو L4 منتخب کریں۔ اگر آپ کے ماڈلز 22 GB سے زیادہ ہوں یا تقریباً 221 GB/s سے زیادہ میموری بینڈوڈتھ درکار ہو تو بڑا ڈیٹا سینٹر GPU استعمال کریں، یا کم میموری والے بنیادی ڈویلپمنٹ کاموں کے لیے چھوٹا کارڈ منتخب کریں۔
ملتے جلتے GPUs سے موازنہ کریں
اکثر پوچھے جانے والے سوالات
کیا NVIDIA L4 LLM انفرنس کے لیے موزوں ہے؟
جی ہاں، 22 GB VRAM آپ کو چھوٹے اور درمیانے لینگویج ماڈلز یا کوانٹائزڈ وزن ہوسٹ کرنے کی اجازت دیتی ہے۔ آپ ONIE پر vLLM یا Ollama ٹیمپلیٹس لانچ کر کے فوراً ماڈلز سروس کرنا شروع کر سکتے ہیں۔
L4 بڑے ڈیٹا سینٹر GPUs کے مقابلے میں کیسا ہے؟
L4 کو 72 W بجلی کی کھپت، تقریباً 24.2 TFLOPS سنگل پریسژن کمپیوٹ، اور تقریباً 221 GB/s میموری بینڈوڈتھ کے ساتھ کارکردگی کے لیے ڈیزائن کیا گیا ہے۔ بڑے ڈیٹا سینٹر GPUs بھاری ٹریننگ کے لیے زیادہ VRAM اور زیادہ میموری بینڈوڈتھ فراہم کرتے ہیں، جبکہ L4 مؤثر لاگت والی انفرنس اور ہلکے ورک لوڈز پر توجہ دیتا ہے۔
ONIE پر L4 کے لیے کون سے سافٹ ویئر ٹیمپلیٹس دستیاب ہیں؟
آپ PyTorch/CUDA، vLLM، Ollama اور ComfyUI کے تیار ٹیمپلیٹس استعمال کرتے ہوئے L4 ڈپلائے کر سکتے ہیں۔ تمام انسٹینسز میں SSH رسائی شامل ہے تاکہ آپ اپنا سافٹ ویئر ماحول اور CUDA compute capability 8.9 ورک فلوز حسبِ ضرورت بنا سکیں۔
L4 انسٹینسز کی بلنگ کیسے ہوتی ہے؟
ONIE L4 انسٹینسز کی بلنگ فی گھنٹہ کی بنیاد پر کرتا ہے۔ آپ صرف اس وقت کی ادائیگی کرتے ہیں جب آپ کا انسٹینس فعال ہو، جس سے یہ مختصر تجربات اور جاری انفرنس کاموں دونوں کے لیے کارآمد ہے۔
L4 فی گھنٹہ کرائے پر لیں
اکاؤنٹ بنائیں، ایک ترتیب منتخب کریں اور SSH کے ذریعے کنیکٹ کریں۔ GPU حذف کرنے پر بلنگ بند ہو جاتی ہے۔
L4 کرائے پر لیں