Оренда GPU NVIDIA L4 погодинно
NVIDIA L4 це GPU для дата-центрів на архітектурі Ada Lovelace з 22 GB VRAM і енергоспоживанням 72 Вт. Він забезпечує близько 24,2 TFLOPS продуктивності для обчислень з одинарною точністю (single-precision) і пропускну здатність пам'яті близько 221 GB/s, а також має CUDA compute capability 8.9. Орендуйте його на ONIE з оплатою щогодини, повним доступом через SSH і готовими шаблонами для PyTorch/CUDA, vLLM, Ollama та ComfyUI.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить L4
Інференс мовних моделей
Запускайте квантовані або невеликі та середні мовні моделі в межах 22 GB VRAM за допомогою попередньо налаштованих шаблонів vLLM або Ollama.
Робочі процеси генерації зображень
Розгортайте конвеєри ComfyUI, які комфортно вміщуються в 22 GB пам'яті та використовують можливості архітектури Ada Lovelace.
Легке донавчання
Виконуйте параметрично-ефективне донавчання та навчання адаптерів у середовищах PyTorch/CUDA без потреби в картці з високим енергоспоживанням.
Пакетна обробка медіа і комп'ютерного зору
Обробляйте інференс комп'ютерного зору та відеонавантаження на GPU для дата-центрів з енергоспоживанням 72 Вт.
Чи підходить вам цей GPU?
Обирайте L4, коли вам потрібні 22 GB VRAM і архітектура Ada Lovelace з compute capability 8.9 для інференсу або помірних навчальних навантажень. Переходьте до більшого GPU для дата-центрів, якщо ваші моделі перевищують 22 GB або потребують пропускної здатності пам'яті понад близько 221 GB/s, або обирайте меншу картку для базових завдань розробки, яким потрібно менше пам'яті.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| L4 | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | — | |
| RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | — | Детальніше |
| RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | — | Детальніше |
| RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить NVIDIA L4 для інференсу LLM?
Так, 22 GB VRAM дозволяють розгортати невеликі та середні мовні моделі або квантовані ваги. Щоб одразу почати обслуговувати моделі, запустіть шаблони vLLM або Ollama на ONIE.
Як L4 порівнюється з більшими GPU для дата-центрів?
L4 розроблено з акцентом на ефективність: енергоспоживання 72 Вт, близько 24,2 TFLOPS обчислень з одинарною точністю та пропускна здатність пам'яті близько 221 GB/s. Більші GPU для дата-центрів пропонують більше VRAM і вищу пропускну здатність пам'яті для важкого навчання, тоді як L4 орієнтований на економічно вигідний інференс і легкі навантаження.
Які програмні шаблони доступні для L4 на ONIE?
Ви можете розгорнути L4, використовуючи готові шаблони для PyTorch/CUDA, vLLM, Ollama та ComfyUI. Усі інстанси мають доступ через SSH, тож ви можете налаштувати програмне середовище та робочі процеси з CUDA compute capability 8.9 під свої потреби.
Як працює оплата за інстанси L4?
ONIE нараховує плату за інстанси L4 щогодини. Ви платите лише за час, поки інстанс активний, що зручно як для коротких експериментів, так і для постійних завдань інференсу.
Орендуйте L4 погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати L4