اجاره GPU مدل NVIDIA L40S بهصورت ساعتی
کارت NVIDIA L40S یک GPU مرکز داده با معماری Ada Lovelace است که برای اجاره ابری روی ONIE در دسترس است. این کارت ۴۵ GB حافظه VRAM، حدود 73.3 TFLOPS توان محاسباتی تک‌دقت و پهنای باند حافظه حدود 626 GB/s را در محدوده توان ۳۵۰ W ارائه میدهد. با پشتیبانی از CUDA compute capability 8.9، این نمونه برای بارهای کاری سنگین آموزش و استنتاج هوش مصنوعی و گرافیک مناسب است و با صورتحساب ساعتی ارائه میشود.
مشخصات فنی
VRAM برای هر GPU
معماری
قابلیت محاسباتی
محاسبات FP32
پهنای باند حافظه
محدودیت توان
مقادیر گزارششده توسط ارائهدهنده زیرساخت برای ماشینهای فعلاً فهرستشده؛ عملکرد واقعی بسته به ماشین متفاوت است.
پیکربندیهای موجود
موجودی و قیمتها بهصورت زنده و بهطور مداوم بهروزرسانی میشوند. قیمت نهایی قبل از ثبت سفارش شما تأیید میشود.
در حال بارگذاری قیمتهای زنده…
کاربردهای L40S
استنتاج مدلهای LLM
مدلهای کوانتیزه‌شده یا با دقت کامل را با قالب‌های آماده مانند vLLM و Ollama در محدوده ظرفیت ۴۵ GB حافظه اجرا کنید.
گردش‌کارهای تولید تصویر
خطوط لوله پیچیده انتشار (diffusion) و وظایف تولید دسته‌ای را در ComfyUI با بهره‌گیری از معماری Ada Lovelace اجرا کنید.
تنظیم دقیق یادگیری عمیق
شبکه‌های عصبی و آداپتورهای LoRA را در محیط‌های PyTorch/CUDA با بهره‌گیری از حدود 73.3 TFLOPS توان محاسباتی تنظیم دقیق کنید.
گرافیک و رندرینگ مرکز داده
وظایف رندرینگ و شبیه‌سازی بدون رابط گرافیکی را اجرا کنید که از پهنای باند حافظه حدود 626 GB/s یک GPU مرکز داده بهره می‌برند.
آیا این GPU برای شما مناسب است؟
کارت L40S را زمانی انتخاب کنید که بار کاری شما به ۴۵ GB حافظه VRAM و قابلیت اطمینان مرکز داده نیاز دارد و فراتر از کارتهای گرافیکی مصرفی استاندارد است. اگر مدلهای شما در حافظه کمتری جا میشوند، یک ایستگاه کاری کوچک‌تر یا کارت گرافیکی مصرفی مقرون‌به‌صرفه‌تر است، در حالی که مدلهای پایه بزرگ و بدون کوانتیزه‌سازی به یک GPU مرکز داده با حافظه بزرگتر نیاز دارند.
مقایسه با GPUهای مشابه
پرسشهای متداول
آیا NVIDIA L40S برای استنتاج و تنظیم دقیق LLM مناسب است؟
بله. با ۴۵ GB حافظه VRAM و CUDA compute capability 8.9، کارت L40S برای سرویس‌دهی به مدلهای زبانی متوسط تا بزرگ و تنظیم دقیق کارآمد از نظر پارامتر مناسب است. می‌توانید نمونه‌ها را با قالب‌های از پیش پیکربندی‌شده vLLM، Ollama یا PyTorch/CUDA راه‌اندازی کنید.
کارت L40S در مقایسه با کارتهای گرافیکی مصرفی یا GPUهای بزرگتر مرکز داده چگونه است؟
کارت L40S حافظه VRAM بیشتری نسبت به کارتهای مصرفی معماری Ada Lovelace ارائه میدهد و میتواند وزن مدلهای بزرگتر را بدون انتقال به حافظه دیگر نگه دارد. با این حال، پهنای باند حافظه آن کمتر از GPUهای مرکز دادهای است که فقط برای محاسبات با حافظه بالا طراحی شدهاند و برای آموزشهای سنگین و وابسته به پهنای باند حافظه، آن GPUها ترجیح داده میشوند.
چگونه به نمونه L40S خود در ONIE متصل شده و آن را پیکربندی کنم؟
به محض بالا آمدن نمونه، دسترسی کامل SSH به محیط خود خواهید داشت. همچنین می‌توانید قالب‌های آماده شامل PyTorch/CUDA، ComfyUI، vLLM و Ollama را انتخاب کنید تا بلافاصله کار را آغاز کنید.
صورتحساب کارت L40S چگونه است؟
ONIE برای تمام اجارههای L40S از صورتحساب ساعتی استفاده میکند. تنها برای مدت زمانی که نمونه به شما اختصاص داده شده است هزینه پرداخت میکنید.
L40S را بهصورت ساعتی اجاره کنید
یک حساب کاربری بسازید، پیکربندی را انتخاب کنید و از طریق SSH متصل شوید. با حذف GPU، صورتحساب متوقف میشود.
اجاره L40S