NVIDIA L40S GPU گھنٹہ وار کرائے پر لیں
NVIDIA L40S ایک Ada Lovelace ڈیٹا سینٹر GPU ہے جو ONIE پر کلاؤڈ کرایے پر دستیاب ہے۔ اس میں 45 GB VRAM، تقریباً 73.3 TFLOPS سنگل پریسژن کمپیوٹ، اور تقریباً 626 GB/s میموری بینڈوڈتھ ہے، اور یہ 350 W پاور حد کے اندر کام کرتا ہے۔ CUDA compute capability 8.9 کو سپورٹ کرنے والی یہ انسٹنس فی گھنٹہ بلنگ کے ساتھ AI ٹریننگ، انفرنس اور گرافکس کے مطالبے والے ورک لوڈز کو سنبھالتی ہے۔
تفصیلات
فی GPU VRAM
آرکیٹیکچر
کمپیوٹ کیپیبلٹی
FP32 کمپیوٹ
میموری بینڈوتھ
پاور حد
یہ قدریں انفراسٹرکچر فراہم کنندہ نے فی الحال درج مشینوں کے لیے بتائی ہیں؛ اصل کارکردگی ہر مشین کے لحاظ سے مختلف ہو سکتی ہے۔
دستیاب ترتیبات
براہِ راست اسٹاک اور قیمتیں، مسلسل اپ ڈیٹ ہوتی ہیں۔ آرڈر دینے سے پہلے حتمی قیمت کی تصدیق کی جاتی ہے۔
براہِ راست قیمتیں لوڈ ہو رہی ہیں…
L40S کس کام کے لیے موزوں ہے
بڑے زبان ماڈلز (LLM) کی انفرنس
تیار ٹیمپلیٹس جیسے vLLM اور Ollama استعمال کرتے ہوئے 45 GB میموری کی حد میں کوانٹائزڈ یا مکمل پریسژن والے زبان ماڈلز تعینات کریں۔
تخلیقی تصویری ورک فلو
Ada Lovelace آرکیٹیکچر سے فائدہ اٹھاتے ہوئے ComfyUI میں پیچیدہ ڈفیوژن پائپ لائنز اور بیچ جنریشن کے کام چلائیں۔
ڈیپ لرننگ فائن ٹیوننگ
PyTorch/CUDA ماحول میں تقریباً 73.3 TFLOPS کمپیوٹ استعمال کرتے ہوئے نیورل نیٹ ورکس اور LoRA ایڈاپٹرز کی فائن ٹیوننگ کریں۔
ڈیٹا سینٹر گرافکس اور رینڈرنگ
ہیڈلیس رینڈرنگ اور سمولیشن کے وہ کام چلائیں جو تقریباً 626 GB/s میموری بینڈوڈتھ والے ڈیٹا سینٹر GPU سے فائدہ اٹھاتے ہیں۔
کیا یہ آپ کے لیے درست GPU ہے؟
اگر آپ کے ورک لوڈ کو 45 GB VRAM اور ڈیٹا سینٹر جیسی وشوسنییتا درکار ہے اور آپ عام کنزیومر کارڈز سے آگے جانا چاہتے ہیں، تو L40S منتخب کریں۔ اگر آپ کے ماڈلز کم میموری میں فٹ ہو جاتے ہیں، تو چھوٹی ورک اسٹیشن یا کنزیومر GPU زیادہ کفایتی ہے، جبکہ بہت بڑے غیر کوانٹائزڈ فاؤنڈیشن ماڈلز کے لیے زیادہ میموری والا ڈیٹا سینٹر GPU بہتر ہے۔
ملتے جلتے GPUs سے موازنہ کریں
اکثر پوچھے جانے والے سوالات
کیا NVIDIA L40S LLM انفرنس اور فائن ٹیوننگ کے لیے موزوں ہے؟
جی ہاں۔ 45 GB VRAM اور CUDA compute capability 8.9 کے ساتھ، L40S درمیانے سے بڑے زبان ماڈلز چلانے اور پیرامیٹر-ایفیشنٹ فائن ٹیوننگ کے لیے بہترین ہے۔ آپ پہلے سے ترتیب شدہ vLLM، Ollama، یا PyTorch/CUDA ٹیمپلیٹس کے ساتھ انسٹنسز لانچ کر سکتے ہیں۔
L40S کا موازنہ کنزیومر GPUs یا بڑے ڈیٹا سینٹر GPUs سے کیسے ہے؟
L40S معیاری کنزیومر Ada Lovelace کارڈز سے زیادہ VRAM فراہم کرتا ہے، اس لیے یہ بڑے ماڈل ویٹس کو آف لوڈنگ کے بغیر رکھ سکتا ہے۔ تاہم، اس کی میموری بینڈوڈتھ زیادہ میموری والے صرف کمپیوٹ ڈیٹا سینٹر GPUs سے کم ہے، جو بہت بڑے میموری-باؤنڈ ٹریننگ جابز کے لیے زیادہ بہتر ہیں۔
ONIE پر اپنی L40S انسٹنس سے کیسے جڑیں اور اسے کیسے ترتیب دیں؟
انسٹنس بوٹ ہوتے ہی آپ کو اپنے ماحول تک مکمل SSH رسائی مل جاتی ہے۔ آپ فوراً کام شروع کرنے کے لیے PyTorch/CUDA، ComfyUI، vLLM اور Ollama سمیت تیار ٹیمپلیٹس بھی منتخب کر سکتے ہیں۔
L40S کے لیے بلنگ کیسے کام کرتی ہے؟
ONIE تمام L40S کرایوں کے لیے فی گھنٹہ بلنگ استعمال کرتا ہے۔ آپ صرف اس وقت کی ادائیگی کرتے ہیں جس کے دوران آپ کی انسٹنس آپ کو مختص رہتی ہے۔
L40S فی گھنٹہ کرائے پر لیں
اکاؤنٹ بنائیں، ایک ترتیب منتخب کریں اور SSH کے ذریعے کنیکٹ کریں۔ GPU حذف کرنے پر بلنگ بند ہو جاتی ہے۔
L40S کرائے پر لیں