Інференс LLM
vLLM, SGLang або Ollama з Open WebUI для обслуговування та тестування мовних моделей.
Орендуйте сервери з NVIDIA GPU погодинно або за періодом оплати. Порівнюйте актуальні конфігурації та ціни, починайте з готового шаблону та підключайтеся через SSH або веб-термінал у браузері.
У ONIE GPU Cloud ви орендуєте GPU-сервер з актуального переліку доступних: обираєте модель GPU, обсяг VRAM і диск, стартуєте з шаблону, наприклад PyTorch, vLLM, Ollama або ComfyUI, а потім підключаєтеся через SSH. Погодинні сервери оплачуються з балансу вашого рахунку, а зупинений погодинний сервер тарифікується лише за диск.
Актуальні залишки: наявність і ціни змінюються разом з ринком. Консоль підтверджує остаточну ціну перед замовленням.
vLLM, SGLang або Ollama з Open WebUI для обслуговування та тестування мовних моделей.
Unsloth Studio для донавчання мовних моделей на ваших даних.
ComfyUI для робочих процесів із Flux, SDXL і відео.
Образи PyTorch і Ubuntu 24.04 з NVIDIA CUDA, доступні через SSH.
Робочий стіл Ubuntu в браузері або повноцінна віртуальна машина KVM, коли вона потрібна.
Кожен шаблон вказує мінімальну версію CUDA, VRAM і диск; для нього пропонуються лише сумісні GPU.
Робочі навантаження, які вміщуються в пам'ять GPU: інференс і донавчання LLM, генерація зображень і відео, рендеринг та розробка на CUDA. Шаблони для PyTorch, vLLM, SGLang, Ollama, Unsloth і ComfyUI встановлюють програмне забезпечення за вас.
Через SSH із вашим ключем або через термінал у браузері в консолі. Шаблони для робочого столу та VM також забезпечують графічний доступ.
Ціни беруться з актуального переліку GPU і можуть змінюватися. Консоль показує підтверджену ціну до замовлення, і ваш сервер тарифікується за цією підтвердженою ціною.
При погодинній оплаті зупинений сервер оплачується лише за диск. Видаліть сервер, коли дані вам більше не потрібні.
У таблиці вище наведено конфігурації, що доступні зараз, зокрема NVIDIA RTX 5090 з 32 GB VRAM, коли вона є в наявності. Доступність змінюється протягом дня.