NVIDIA A40 GPU گھنٹہ وار کرائے پر لیں
NVIDIA A40 ایک ڈیٹا سینٹر GPU ہے جو Ampere آرکیٹیکچر پر بنایا گیا ہے، جس کی compute capability 8.6 اور VRAM 45 GB ہے۔ ONIE پر یہ تقریباً 29.9 TFLOPS سنگل پریسژن کارکردگی اور تقریباً 536 GB/s میموری بینڈوتھ فراہم کرتا ہے، اور 300 W پاور حد میں کام کرتا ہے۔ آپ اسے فی گھنٹہ بلنگ، مکمل SSH رسائی، اور PyTorch/CUDA، vLLM، Ollama اور ComfyUI سمیت تیار ٹیمپلیٹس کے ساتھ تعینات کر سکتے ہیں۔
تفصیلات
فی GPU VRAM
آرکیٹیکچر
کمپیوٹ کیپیبلٹی
FP32 کمپیوٹ
میموری بینڈوتھ
پاور حد
یہ قدریں انفراسٹرکچر فراہم کنندہ نے فی الحال درج مشینوں کے لیے بتائی ہیں؛ اصل کارکردگی ہر مشین کے لحاظ سے مختلف ہو سکتی ہے۔
دستیاب ترتیبات
براہِ راست اسٹاک اور قیمتیں، مسلسل اپ ڈیٹ ہوتی ہیں۔ آرڈر دینے سے پہلے حتمی قیمت کی تصدیق کی جاتی ہے۔
براہِ راست قیمتیں لوڈ ہو رہی ہیں…
A40 کس کام کے لیے موزوں ہے
بڑے لینگویج ماڈل (LLM) انفرنس
پہلے سے کنفیگر شدہ vLLM یا Ollama ٹیمپلیٹس استعمال کرتے ہوئے 45 GB تک میموری درکار ماڈلز چلائیں۔
ڈیپ لرننگ فائن ٹیوننگ
PyTorch/CUDA میں نیورل نیٹ ورکس کو فائن ٹیون کریں، بڑے batch سائز اور وزن کے لیے کافی VRAM کے ساتھ۔
جنریٹو امیج ورک فلو
ComfyUI کے ذریعے پیچیدہ diffusion پائپ لائنز چلائیں اور ایک ساتھ متعدد checkpoints میموری میں رکھیں۔
ڈیٹا سینٹر کمپیوٹ ٹاسکس
سمولیشن اور رینڈرنگ ورک لوڈز کے لیے تقریباً 29.9 TFLOPS سنگل پریسژن کمپیوٹ اور تقریباً 536 GB/s میموری بینڈوتھ استعمال کریں۔
کیا یہ آپ کے لیے درست GPU ہے؟
جب آپ کے ورک لوڈ کو Ampere ڈیٹا سینٹر آرکیٹیکچر پر 45 GB VRAM درکار ہو، جو عام کنزیومر کارڈز کی میموری گنجائش سے زیادہ ہے، تو A40 منتخب کریں۔ اگر آپ کے ماڈلز کم میموری میں فٹ ہو جاتے ہیں تو چھوٹا کنزیومر کارڈ منتخب کریں، اور اگر آپ کی ٹریننگ جابز میموری تھرو پٹ سے بری طرح متاثر ہوتی ہیں تو زیادہ بینڈوتھ والا ڈیٹا سینٹر GPU منتخب کریں۔
ملتے جلتے GPUs سے موازنہ کریں
اکثر پوچھے جانے والے سوالات
کیا NVIDIA A40 LLM انفرنس اور فائن ٹیوننگ کے لیے موزوں ہے؟
جی ہاں، 45 GB VRAM گنجائش A40 کو درمیانے سے بڑے لینگویج ماڈلز کی میزبانی اور پیرامیٹر-مؤثر فائن ٹیوننگ کے لیے اچھا بناتی ہے۔ آپ ONIE پر براہِ راست vLLM، Ollama یا PyTorch/CUDA ٹیمپلیٹ لانچ کر کے فوراً کام شروع کر سکتے ہیں۔
A40 چھوٹے کنزیومر GPUs یا بڑے ڈیٹا سینٹر GPUs کے مقابلے میں کیسا ہے؟
A40 میں 45 GB VRAM ہے، جو میموری پر منحصر ورک لوڈز کے لیے عام کنزیومر GPUs سے زیادہ میموری گنجائش دیتا ہے۔ تاہم، اس کی تقریباً 536 GB/s میموری بینڈوتھ HBM میموری استعمال کرنے والے اعلیٰ درجے کے ڈیٹا سینٹر GPUs سے کم ہے۔
ONIE پر A40 کے لیے کون سے سافٹ ویئر ماحول دستیاب ہیں؟
A40 CUDA compute capability 8.6 کو سپورٹ کرتا ہے اور PyTorch/CUDA، vLLM، Ollama اور ComfyUI کے تیار ٹیمپلیٹس کے ساتھ تعینات کیا جا سکتا ہے۔ مکمل SSH رسائی شامل ہے تاکہ آپ ضرورت کے مطابق اپنا سافٹ ویئر اسٹیک حسبِ منشا بنا سکیں۔
A40 انسٹینسز کی بلنگ کیسے ہوتی ہے؟
ONIE تمام A40 کرایوں کے لیے فی گھنٹہ بلنگ استعمال کرتا ہے۔ آپ صرف اس وقت کی ادائیگی کرتے ہیں جب آپ کا انسٹینس فعال ہو، جس سے یہ مختصر تجربات اور طویل پروڈکشن رنز دونوں کے لیے عملی ہے۔
A40 فی گھنٹہ کرائے پر لیں
اکاؤنٹ بنائیں، ایک ترتیب منتخب کریں اور SSH کے ذریعے کنیکٹ کریں۔ GPU حذف کرنے پر بلنگ بند ہو جاتی ہے۔
A40 کرائے پر لیں