Почасовая аренда GPU NVIDIA L4
NVIDIA L4 — это серверный GPU на архитектуре Ada Lovelace с 22 GB VRAM и энергопотреблением 72 W. Он обеспечивает производительность около 24.2 TFLOPS в операциях с плавающей запятой одинарной точности и пропускную способность памяти около 221 GB/s при вычислительной способности CUDA 8.9. Арендуйте его на ONIE с почасовой оплатой, полным доступом по SSH и готовыми шаблонами для PyTorch/CUDA, vLLM, Ollama и ComfyUI.
Характеристики
VRAM на GPU
Архитектура
Вычислительная способность
Производительность FP32
Пропускная способность памяти
Лимит мощности
Значения указаны поставщиком инфраструктуры для доступных сейчас серверов; реальная производительность зависит от конкретного сервера.
Доступные конфигурации
Наличие и цены обновляются в реальном времени. Итоговая стоимость подтверждается перед оформлением заказа.
Загрузка актуальных цен…
Для каких задач подходит L4
Инференс языковых моделей
Запускайте квантованные или малые и средние языковые модели в буфере 22 GB VRAM с помощью преднастроенных шаблонов vLLM или Ollama.
Пайплайны генерации изображений
Разворачивайте пайплайны ComfyUI, которые свободно помещаются в 22 GB памяти и используют возможности архитектуры Ada Lovelace.
Лёгкое дообучение моделей
Выполняйте параметрически эффективное дообучение и тренировку адаптеров в средах PyTorch/CUDA без необходимости в энергоёмких серверных картах.
Пакетная обработка медиа и компьютерное зрение
Выполняйте инференс моделей компьютерного зрения и обработку видео на серверном GPU с энергопотреблением 72 W.
Подойдёт ли вам этот GPU?
Выбирайте L4, когда вам нужны 22 GB VRAM и вычислительная способность Ada Lovelace 8.9 для инференса или умеренных задач обучения. Переходите на более мощный серверный GPU, если ваши модели превышают 22 GB или требуют пропускной способности памяти выше 221 GB/s, либо выберите младшую карту для базовых задач разработки, которым нужно меньше памяти.
Сравнение с аналогичными GPU
Часто задаваемые вопросы
Подходит ли NVIDIA L4 для инференса LLM?
Да, 22 GB VRAM позволяют размещать малые и средние языковые модели или квантованные веса. Вы можете запустить шаблоны vLLM или Ollama на ONIE, чтобы сразу начать работу с моделями.
Чем L4 отличается от более крупных серверных GPU?
L4 спроектирован для высокой эффективности: он потребляет 72 W, выдаёт около 24.2 TFLOPS в вычислениях одинарной точности и обеспечивает пропускную способность памяти около 221 GB/s. Более крупные серверные GPU предлагают больше VRAM и более высокую пропускную способность памяти для тяжёлого обучения, тогда как L4 ориентирован на экономичный инференс и лёгкие нагрузки.
Какие шаблоны ПО доступны для L4 на ONIE?
Вы можете развернуть L4 с помощью готовых шаблонов для PyTorch/CUDA, vLLM, Ollama и ComfyUI. Все инстансы включают доступ по SSH, чтобы вы могли настроить программное окружение и рабочие процессы под вычислительную способность CUDA 8.9.
Как тарифицируются инстансы с L4?
ONIE тарифицирует инстансы с L4 почасово. Вы платите только за то время, пока ваш инстанс активен, что удобно как для коротких экспериментов, так и для постоянных задач инференса.
Почасовая аренда L4
Создайте аккаунт, выберите конфигурацию и подключитесь по SSH. Начисления прекращаются после удаления GPU.
Арендовать L4