اجاره GPU مدل NVIDIA A40 بهصورت ساعتی
کارت NVIDIA A40 یک GPU مرکزداده‌ای مبتنی بر معماری Ampere با قابلیت محاسباتی 8.6 و 45 GB حافظه VRAM است. در ONIE، این کارت حدود 29.9 TFLOPS عملکرد تک‌دقت و حدود 536 GB/s پهنای باند حافظه را در محدوده توان 300 W ارائه می‌دهد. میتوانید آن را با صورتحساب ساعتی، دسترسی کامل SSH و قالبهای آماده شامل PyTorch/CUDA، vLLM، Ollama و ComfyUI راهاندازی کنید.
مشخصات فنی
VRAM برای هر GPU
معماری
قابلیت محاسباتی
محاسبات FP32
پهنای باند حافظه
محدودیت توان
مقادیر گزارششده توسط ارائهدهنده زیرساخت برای ماشینهای فعلاً فهرستشده؛ عملکرد واقعی بسته به ماشین متفاوت است.
پیکربندیهای موجود
موجودی و قیمتها بهصورت زنده و بهطور مداوم بهروزرسانی میشوند. قیمت نهایی قبل از ثبت سفارش شما تأیید میشود.
در حال بارگذاری قیمتهای زنده…
کاربردهای A40
استنتاج مدلهای زبانی بزرگ
اجرای مدل‌هایی که تا 45 GB حافظه نیاز دارند، با استفاده از قالبهای از پیش پیکربندی‌شده vLLM یا Ollama.
تنظیم دقیق یادگیری عمیق
تنظیم دقیق شبکه‌های عصبی در PyTorch/CUDA با VRAM کافی برای اندازه دسته‌ای (batch) بزرگ‌تر و وزن‌های بیشتر.
گردش‌کارهای تولید تصویر
اجرای خط‌لوله‌های پیچیده دیفیوژن و نگهداری هم‌زمان چند checkpoint در حافظه با ComfyUI.
وظایف محاسباتی مرکزداده
بهره‌گیری از حدود 29.9 TFLOPS محاسبات تک‌دقت و حدود 536 GB/s پهنای باند حافظه برای بارهای کاری شبیه‌سازی و رندرینگ.
آیا این GPU برای شما مناسب است؟
کارت A40 را زمانی انتخاب کنید که بار کاری شما به 45 GB حافظه VRAM روی معماری Ampere مرکزداده نیاز دارد که از ظرفیت حافظه کارت‌های مصرفی استاندارد فراتر می‌رود. اگر مدلهای شما در حافظه کمتری جا میشوند، یک کارت مصرفی کوچک‌تر انتخاب کنید. اگر کارهای آموزشی شما به شدت به توان عبوری حافظه محدود هستند، به یک GPU مرکزداده‌ای با پهنای باند بالاتر بروید.
مقایسه با GPUهای مشابه
پرسشهای متداول
آیا NVIDIA A40 برای استنتاج و تنظیم دقیق LLM مناسب است؟
بله، ظرفیت 45 GB حافظه VRAM کارت A40 را برای میزبانی مدلهای زبانی متوسط تا بزرگ و انجام تنظیم دقیق کارآمد از نظر پارامتر مناسب میکند. میتوانید قالبهای vLLM، Ollama یا PyTorch/CUDA را مستقیماً در ONIE راهاندازی کنید و بلافاصله کار را شروع کنید.
A40 در مقایسه با GPUهای مصرفی کوچک‌تر یا GPUهای بزرگ‌تر مرکزداده چگونه است؟
کارت A40 با 45 GB حافظه VRAM، فضای خالی بیشتری نسبت به GPUهای مصرفی استاندارد برای بارهای کاری محدود به حافظه فراهم میکند. با این حال، پهنای باند حافظه آن، حدود 536 GB/s، از GPUهای رده بالاتر مرکزداده که از حافظه HBM استفاده می‌کنند کمتر است.
چه محیطهای نرمافزاری برای A40 در ONIE در دسترس است؟
کارت A40 از قابلیت محاسباتی 8.6 در CUDA پشتیبانی میکند و میتوان آن را با قالبهای آماده PyTorch/CUDA، vLLM، Ollama و ComfyUI راهاندازی کرد. دسترسی کامل SSH نیز شامل شده است تا در صورت نیاز پشته نرمافزاری خود را سفارشی کنید.
صورتحساب نمونههای A40 چگونه است؟
ONIE برای تمام اجارههای A40 از صورتحساب ساعتی استفاده میکند. فقط برای مدت زمانی که نمونه شما فعال است پرداخت میکنید، که هم برای آزمایشهای کوتاه و هم برای اجراهای طولانیتر در محیط تولید مناسب است.
A40 را بهصورت ساعتی اجاره کنید
یک حساب کاربری بسازید، پیکربندی را انتخاب کنید و از طریق SSH متصل شوید. با حذف GPU، صورتحساب متوقف میشود.
اجاره A40