NVIDIA CMP 170HX GPU گھنٹہ وار کرائے پر لیں
NVIDIA CMP 170HX ایک Ampere آرکیٹیکچر والا ڈیٹاسینٹر GPU ہے جس میں 64 GB VRAM اور 250 W TDP ہے۔ یہ compute capability 8.0 پر تقریباً 1516 GB/s میموری بینڈوڈتھ کے ساتھ تقریباً 12.1 TFLOPS سنگل پریسژن کمپیوٹ فراہم کرتا ہے۔ ONIE پر آپ اس کارڈ کو فی گھنٹہ بلنگ، مکمل SSH رسائی، اور PyTorch/CUDA، vLLM، Ollama اور ComfyUI کے لیے تیار ٹیمپلیٹس کے ساتھ تعینات کر سکتے ہیں۔
تفصیلات
فی GPU VRAM
آرکیٹیکچر
کمپیوٹ کیپیبلٹی
FP32 کمپیوٹ
میموری بینڈوتھ
پاور حد
یہ قدریں انفراسٹرکچر فراہم کنندہ نے فی الحال درج مشینوں کے لیے بتائی ہیں؛ اصل کارکردگی ہر مشین کے لحاظ سے مختلف ہو سکتی ہے۔
دستیاب ترتیبات
براہِ راست اسٹاک اور قیمتیں، مسلسل اپ ڈیٹ ہوتی ہیں۔ آرڈر دینے سے پہلے حتمی قیمت کی تصدیق کی جاتی ہے۔
براہِ راست قیمتیں لوڈ ہو رہی ہیں…
CMP 170HX کس کام کے لیے موزوں ہے
میموری سے محدود LLM انفرنس
vLLM یا Ollama کے ذریعے بڑے لینگویج ماڈلز سرو کریں، 64 GB VRAM گنجائش اور تقریباً 1516 GB/s میموری بینڈوڈتھ سے فائدہ اٹھاتے ہوئے۔
زیادہ میموری والی ڈیپ لرننگ
PyTorch/CUDA ورک لوڈز چلائیں جن کے لیے بڑی میموری گنجائش اور compute capability 8.0 درکار ہو، بغیر ماڈلز کو مختلف ڈیوائسز میں تقسیم کیے۔
پیچیدہ امیج جنریشن ورک فلوز
ComfyUI میں ایک ساتھ کئی بڑے ڈفیوژن چیک پوائنٹس اور control nets لوڈ کریں، 64 GB میموری پول کے اندر۔
ڈیٹا پروسیسنگ اور سمولیشن
250 W پاور حد کے اندر ایسے میموری-انٹینسیو ڈیٹاسینٹر ٹاسکس انجام دیں جو زیادہ میموری تھرو پٹ سے فائدہ اٹھاتے ہیں۔
کیا یہ آپ کے لیے درست GPU ہے؟
جب آپ کا ورک لوڈ کچی سنگل پریسژن کمپیوٹ کے بجائے میموری گنجائش اور بینڈوڈتھ سے محدود ہو تو CMP 170HX منتخب کریں۔ اگر آپ کو تیز ٹریننگ iterations درکار ہوں تو زیادہ compute throughput والا GPU چنیں، یا اگر آپ کے ماڈلز کو 64 GB VRAM کی ضرورت نہیں تو چھوٹا consumer card منتخب کریں۔
ملتے جلتے GPUs سے موازنہ کریں
اکثر پوچھے جانے والے سوالات
کیا CMP 170HX LLM انفرنس کے لیے موزوں ہے؟
جی ہاں، اس کی 64 GB VRAM اور تقریباً 1516 GB/s میموری بینڈوڈتھ اسے vLLM اور Ollama جیسے ٹیمپلیٹس استعمال کرتے ہوئے بڑے LLMs لوڈ اور سرو کرنے کے لیے بہت موزوں بناتی ہیں۔ تاہم، چونکہ یہ تقریباً 12.1 TFLOPS سنگل پریسژن کمپیوٹ فراہم کرتا ہے، اس لیے پرامپٹ پروسیسنگ ان ڈیٹاسینٹر GPUs کے مقابلے میں سست ہوگی جن کی compute density زیادہ ہے۔
یہ GPU معیاری ڈیٹاسینٹر ایکسیلریٹرز کے مقابلے میں کیسا ہے؟
CMP 170HX ایک بڑی 64 GB میموری بفر اور اعلیٰ میموری بینڈوڈتھ پیش کرتا ہے جو معیاری Ampere ڈیٹاسینٹر کارڈز سے ملتی جلتی ہے، جبکہ 250 W TDP پر کام کرتا ہے۔ اس کا بنیادی سمجھوتہ تقریباً 12.1 TFLOPS کا کم compute throughput ہے، جو اسے بھاری compute ورک لوڈز کے بجائے میموری سے محدود ٹاسکس کے لیے زیادہ موزوں بناتا ہے۔
اس GPU کے لیے کون سے سافٹ ویئر ماحول دستیاب ہیں؟
یہ کارڈ CUDA compute capability 8.0 کو سپورٹ کرتا ہے اور ONIE پر پہلے سے ترتیب شدہ ٹیمپلیٹس کے ذریعے لانچ کیا جا سکتا ہے، جن میں PyTorch/CUDA، vLLM، Ollama اور ComfyUI شامل ہیں۔ آپ کو اپنی مرضی کی لائبریریاں انسٹال کرنے اور اپنے ماحول کو منظم کرنے کے لیے براہ راست SSH رسائی بھی ملتی ہے۔
CMP 170HX کرائے پر لینے پر بلنگ کیسے ہوتی ہے؟
ONIE پر انسٹینسز فی گھنٹہ بلنگ استعمال کرتے ہیں، لہذا آپ صرف اس مدت کی ادائیگی کرتے ہیں جس کے دوران آپ کا GPU فعال رہتا ہے۔
CMP 170HX فی گھنٹہ کرائے پر لیں
اکاؤنٹ بنائیں، ایک ترتیب منتخب کریں اور SSH کے ذریعے کنیکٹ کریں۔ GPU حذف کرنے پر بلنگ بند ہو جاتی ہے۔
CMP 170HX کرائے پر لیں