GPU Cloud · NVIDIA · Ampere

NVIDIA A100 SXM4 GPU گھنٹہ وار کرائے پر لیں

NVIDIA A100 SXM4 ایک Ampere آرکیٹیکچر والا ڈیٹا سینٹر GPU ہے جس میں 40 GB VRAM اور 400 W پاور انویلپ ہے۔ یہ کمپیوٹ کیپیبلٹی 8.0 پر تقریباً 1313 GB/s میموری بینڈوتھ اور تقریباً 15.6 TFLOPS سنگل پریسژن کمپیوٹ فراہم کرتا ہے۔ اسے ONIE پر فی گھنٹہ بلنگ، براہ راست SSH رسائی، اور PyTorch/CUDA، vLLM، Ollama اور ComfyUI سمیت تیار ٹیمپلیٹس کے ساتھ کرائے پر لیں۔

تفصیلات

فی GPU VRAM

40 GB

آرکیٹیکچر

NVIDIA Ampere

کمپیوٹ کیپیبلٹی

8.0

FP32 کمپیوٹ

≈ 15.6 TFLOPS

میموری بینڈوتھ

≈ 1,313 GB/s

پاور حد

400 W

یہ قدریں انفراسٹرکچر فراہم کنندہ نے فی الحال درج مشینوں کے لیے بتائی ہیں؛ اصل کارکردگی ہر مشین کے لحاظ سے مختلف ہو سکتی ہے۔

دستیاب ترتیبات

براہِ راست اسٹاک اور قیمتیں، مسلسل اپ ڈیٹ ہوتی ہیں۔ آرڈر دینے سے پہلے حتمی قیمت کی تصدیق کی جاتی ہے۔

براہِ راست قیمتیں لوڈ ہو رہی ہیں…

A100 SXM4 کس کام کے لیے موزوں ہے

LLM انفرنس اور سرونگ

پہلے سے کنفیگر شدہ vLLM یا Ollama ٹیمپلیٹس استعمال کرتے ہوئے، 40 GB VRAM میں سما جانے والے زبان کے ماڈلز تیز میموری تھرو پُٹ کے ساتھ چلائیں۔

ڈیپ لرننگ ٹریننگ

Ampere ڈیٹا سینٹر آرکیٹیکچر پر، تقریباً 1313 GB/s میموری بینڈوتھ کے ساتھ PyTorch/CUDA میں نیورل نیٹ ورکس کی ٹریننگ اور فائن ٹیوننگ کریں۔

بیچ امیج جنریشن

ComfyUI میں ہائی ریزولوشن ڈفیوژن آؤٹ پٹس بنائیں اور پیچیدہ ورک فلوز چلائیں، بغیر اس کے کہ کنزیومر گریڈ میموری حدود تک پہنچیں۔

سائنسی کمپیوٹنگ

میموری-انٹینسو سمیولیشنز اور ڈیٹا پروسیسنگ ورک لوڈز چلائیں جو کمپیوٹ کیپیبلٹی 8.0 اور SXM4 فارم فیکٹر پاور حدود سے فائدہ اٹھاتے ہیں۔

کیا یہ آپ کے لیے درست GPU ہے؟

جب آپ کے ٹریننگ یا انفرنس ورک لوڈز کنزیومر GPU میموری حدود سے بڑھ جائیں اور ڈیٹا سینٹر میموری بینڈوتھ کی ضرورت ہو تو 40 GB A100 SXM4 منتخب کریں۔ اگر آپ کے نان-کوانٹائزڈ ماڈلز 40 GB سے بڑے ہوں تو زیادہ VRAM والا ڈیٹا سینٹر GPU چنیں، یا ہلکی انفرنس اور ڈیولپمنٹ کے لیے چھوٹا ورک اسٹیشن یا کنزیومر کارڈ منتخب کریں۔

ملتے جلتے GPUs سے موازنہ کریں

GPUفی GPU VRAMآرکیٹیکچرFP32 کمپیوٹفی گھنٹہ سےتفصیلات
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—تفصیلات
Q RTX 800045 GBTuring≈ 11.9 TFLOPS—تفصیلات
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—تفصیلات

اکثر پوچھے جانے والے سوالات

کیا 40 GB A100 SXM4 LLM انفرنس اور فائن ٹیوننگ کے لیے موزوں ہے؟

جی ہاں، اس کی 40 GB VRAM اور تقریباً 1313 GB/s میموری بینڈوتھ اسے درمیانے سائز کے زبان کے ماڈلز کی سرونگ اور پیرامیٹر-ایفیشنٹ فائن ٹیوننگ کے لیے بہت موزوں بناتی ہے۔ آپ فراہم کردہ vLLM، Ollama یا PyTorch/CUDA ٹیمپلیٹس استعمال کرتے ہوئے ماڈلز جلدی ڈیپلائے کر سکتے ہیں۔

یہ 40 GB SXM4 ماڈل دوسرے ڈیٹا سینٹر GPUs کے مقابلے میں کیسا ہے؟

SXM4 ویرینٹ 400 W تھرمل ڈیزائن پاور پر چلتا ہے اور کمپیوٹ کیپیبلٹی 8.0 کے ساتھ Ampere آرکیٹیکچر پر مسلسل ڈیٹا سینٹر کارکردگی فراہم کرتا ہے۔ اگر آپ کے ورک لوڈ کو ماڈل شارڈنگ سے بچنے کے لیے 40 GB سے زیادہ میموری درکار ہو تو زیادہ گنجائش والے Ampere یا نئی نسل کے ڈیٹا سینٹر GPU کی طرف جانے پر غور کریں۔

ONIE پر A100 SXM4 کی بلنگ کیسے کام کرتی ہے؟

جب تک آپ کی کرائے کی سروس فعال ہے، انسٹینسز فی گھنٹہ کے حساب سے بل کیے جاتے ہیں۔ اس سے آپ گہری ٹریننگ یا بیچ انفرنس جابز چلا سکتے ہیں اور کام مکمل ہونے پر انسٹینس بند کر سکتے ہیں۔

میں اپنے A100 SXM4 انسٹینس سے کیسے جڑوں اور اسے کیسے سیٹ اپ کروں؟

آپ کو مشین تک براہ راست SSH رسائی کے ساتھ PyTorch/CUDA، vLLM، Ollama اور ComfyUI کے لیے استعمال کے لیے تیار ٹیمپلیٹس ملتے ہیں۔ بس لانچ کے وقت اپنا پسندیدہ ٹیمپلیٹ منتخب کریں اور فوراً کام شروع کریں۔

A100 SXM4 فی گھنٹہ کرائے پر لیں

اکاؤنٹ بنائیں، ایک ترتیب منتخب کریں اور SSH کے ذریعے کنیکٹ کریں۔ GPU حذف کرنے پر بلنگ بند ہو جاتی ہے۔

A100 SXM4 کرائے پر لیں

تمام GPUs →