Почасовая аренда GPU NVIDIA L40S
NVIDIA L40S — это серверный GPU на архитектуре Ada Lovelace, доступный для облачной аренды в ONIE. Он оснащён 45 GB VRAM, обеспечивает около 73.3 TFLOPS вычислительной мощности одинарной точности и пропускную способность памяти около 626 GB/s при энергопотреблении 350 W. Благодаря поддержке CUDA compute capability 8.9 этот инстанс справляется с ресурсоёмкими задачами обучения и инференса AI, а также с графическими нагрузками с почасовой оплатой.
Характеристики
VRAM на GPU
Архитектура
Вычислительная способность
Производительность FP32
Пропускная способность памяти
Лимит мощности
Значения указаны поставщиком инфраструктуры для доступных сейчас серверов; реальная производительность зависит от конкретного сервера.
Доступные конфигурации
Наличие и цены обновляются в реальном времени. Итоговая стоимость подтверждается перед оформлением заказа.
Загрузка актуальных цен…
Для каких задач подходит L40S
Инференс больших языковых моделей
Развёртывайте квантованные или полноразмерные языковые модели с помощью готовых шаблонов, таких как vLLM и Ollama, используя 45 GB видеопамяти.
Генерация изображений
Запускайте сложные диффузионные пайплайны и пакетную генерацию в ComfyUI, используя возможности архитектуры Ada Lovelace.
Дообучение моделей глубокого обучения
Дообучайте нейросети и адаптеры LoRA в средах PyTorch/CUDA, используя около 73.3 TFLOPS вычислительной мощности.
Серверная графика и рендеринг
Выполняйте фоновый рендеринг и задачи симуляции, которым важен серверный GPU с пропускной способностью памяти около 626 GB/s.
Подойдёт ли вам этот GPU?
Выбирайте L40S, когда вашей задаче требуется 45 GB VRAM и надёжность серверного уровня, выходящая за рамки возможностей потребительских видеокарт. Если ваши модели помещаются в меньший объём памяти, более экономичным решением станет младший профессиональный или потребительский GPU, тогда как для огромных неквантованных базовых моделей потребуется серверный GPU с ещё большим объёмом памяти.
Сравнение с аналогичными GPU
Часто задаваемые вопросы
Подходит ли NVIDIA L40S для инференса и дообучения LLM?
Да, благодаря 45 GB VRAM и поддержке CUDA compute capability 8.9 карта L40S отлично подходит для обслуживания средних и больших языковых моделей, а также для параметрически эффективного дообучения. Вы можете запускать инстансы с преднастроенными шаблонами vLLM, Ollama или PyTorch/CUDA.
Чем L40S отличается от потребительских GPU или более крупных серверных GPU?
L40S предлагает больше VRAM, чем стандартные потребительские карты архитектуры Ada Lovelace, что позволяет размещать веса более крупных моделей без выгрузки в системную память. Однако у него меньшая пропускная способность памяти по сравнению со специализированными вычислительными серверными GPU большого объёма, которые предпочтительнее для масштабных задач обучения, требовательных к скорости памяти.
Как подключиться к инстансу с L40S и настроить его в ONIE?
Вы получаете полный доступ по SSH к своему окружению сразу после загрузки инстанса. Вы также можете выбрать готовые шаблоны, включая PyTorch/CUDA, ComfyUI, vLLM и Ollama, чтобы сразу приступить к работе.
Как тарифицируется аренда L40S?
В ONIE действует почасовая оплата для всех инстансов с L40S. Вы платите только за то время, в течение которого за вами закреплён инстанс.
Почасовая аренда L40S
Создайте аккаунт, выберите конфигурацию и подключитесь по SSH. Начисления прекращаются после удаления GPU.
Арендовать L40S