Инференс LLM
vLLM, SGLang или Ollama с Open WebUI для развёртывания и тестирования языковых моделей.
Арендуйте серверы с GPU NVIDIA с почасовой оплатой или за расчётный период. Сравнивайте доступные сейчас конфигурации и цены, запускайте сервер из готового шаблона и подключайтесь по SSH или через терминал в браузере.
В ONIE GPU Cloud вы арендуете GPU-сервер из актуального пула: выбираете модель GPU, объём VRAM и диска, запускаете готовый шаблон — например, PyTorch, vLLM, Ollama или ComfyUI — и подключаетесь по SSH. Оплата почасовых серверов списывается с баланса вашего аккаунта, а за остановленный почасовой сервер начисляется только стоимость диска.
Актуальное наличие: доступность и цены меняются в зависимости от рынка. Итоговая цена подтверждается в консоли перед оформлением заказа.
vLLM, SGLang или Ollama с Open WebUI для развёртывания и тестирования языковых моделей.
Unsloth Studio для дообучения языковых моделей на ваших собственных данных.
ComfyUI для пайплайнов с Flux, SDXL и видео.
Образы PyTorch и Ubuntu 24.04 с NVIDIA CUDA и доступом по SSH.
Рабочий стол Ubuntu в браузере или полноценная виртуальная машина KVM, когда она нужна.
Для каждого шаблона указаны минимальная версия CUDA, объём VRAM и диска — для него предлагаются только совместимые GPU.
Любые задачи, помещающиеся в память GPU: инференс и дообучение LLM, генерацию изображений и видео, рендеринг и разработку на CUDA. Шаблоны для PyTorch, vLLM, SGLang, Ollama, Unsloth и ComfyUI установят нужное ПО автоматически.
По SSH с помощью вашего ключа или через терминал в браузере из панели управления. Шаблоны с рабочим столом и VM также предоставляют графический доступ.
Цены формируются на основе актуального пула GPU и могут меняться. Перед оформлением заказа панель управления покажет подтверждённую цену, и тарификация вашего сервера будет идти именно по ней.
При почасовой оплате за остановленный сервер списывается только стоимость диска. Удалите сервер, когда его данные вам больше не нужны.
В таблице выше показаны доступные сейчас конфигурации, включая NVIDIA RTX 5090 с 32 GB VRAM при наличии. Доступность меняется в течение дня.