Оренда GPU NVIDIA L40S погодинно
NVIDIA L40S — це датацентровий GPU на архітектурі Ada Lovelace, доступний в оренду в хмарі на ONIE. Він пропонує 45 GB VRAM, близько 73,3 TFLOPS обчислень одинарної точності та пропускну здатність пам'яті близько 626 GB/s у межах споживання 350 W. Підтримує CUDA compute capability 8.9, тож цей інстанс справляється з вимогливими навантаженнями AI-навчання, інференсу та графіки. Оплата здійснюється щогодини.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить L40S
Інференс великих мовних моделей (LLM)
Розгортайте квантовані або повноточні мовні моделі за допомогою готових шаблонів vLLM та Ollama у межах 45 GB пам'яті.
Генеративні робочі процеси для зображень
Запускайте складні дифузійні пайплайни та пакетну генерацію в ComfyUI з використанням архітектури Ada Lovelace.
Донавчання глибоких нейронних мереж
Донавчайте нейронні мережі та адаптери LoRA у середовищах PyTorch/CUDA, використовуючи близько 73,3 TFLOPS обчислювальної потужності.
Датацентрова графіка та рендеринг
Виконуйте headless-рендеринг і симуляції, які отримують перевагу від датацентрового GPU з пропускною здатністю пам'яті близько 626 GB/s.
Чи підходить вам цей GPU?
Обирайте L40S, якщо вашому робочому навантаженню потрібні 45 GB VRAM і надійність датацентрового класу, що виходить за межі звичайних споживчих карт. Якщо ваші моделі вміщуються в меншу пам'ять, менша робоча станція або споживчий GPU будуть економнішими, тоді як масивні нескорочені базові моделі потребують датацентрового GPU з більшим обсягом пам'яті.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Детальніше |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Детальніше |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить NVIDIA L40S для інференсу LLM і донавчання?
Так. Завдяки 45 GB VRAM і CUDA compute capability 8.9 L40S добре підходить для обслуговування середніх і великих мовних моделей та параметрично-ефективного донавчання. Ви можете запускати інстанси з попередньо налаштованими шаблонами vLLM, Ollama або PyTorch/CUDA.
Як L40S порівнюється зі споживчими GPU або більшими датацентровими GPU?
L40S пропонує більше VRAM, ніж звичайні споживчі карти архітектури Ada Lovelace, тож може утримувати ваги більших моделей без вивантаження. Однак його пропускна здатність пам'яті нижча, ніж у датацентрових GPU лише для обчислень із великим обсягом пам'яті, які краще підходять для масивних навчальних завдань, обмежених пропускною здатністю пам'яті.
Як підключитися до інстансу L40S на ONIE і налаштувати його?
Повний доступ по SSH до вашого середовища з'являється одразу після завантаження інстансу. Ви також можете обрати готові шаблони, зокрема PyTorch/CUDA, ComfyUI, vLLM та Ollama, щоб одразу почати роботу.
Як працює оплата за L40S?
Для всіх оренд L40S на ONIE застосовується оплата щогодини. Ви платите лише за час, протягом якого інстанс виділено вам.
Орендуйте L40S погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати L40S