Инференция на LLM
vLLM, SGLang или Ollama с Open WebUI за обслужване и тестване на езикови модели.
Наемете NVIDIA GPU сървъри почасово или по период на таксуване. Сравнете актуални конфигурации и цени, започнете от готов шаблон и се свържете през SSH или браузърния терминал.
С ONIE GPU Cloud наемате GPU сървър от актуалната наличност: избирате модел GPU, VRAM и диск, започвате от шаблон като PyTorch, vLLM, Ollama или ComfyUI и след това се свързвате през SSH. Почасовите сървъри се таксуват от баланса на вашия профил, а спрян почасов сървър се таксува само за диска.
Наличност в реално време: наличността и цените се променят според пазара. Конзолата потвърждава окончателната цена преди поръчка.
vLLM, SGLang или Ollama с Open WebUI за обслужване и тестване на езикови модели.
Unsloth Studio за фина настройка на езикови модели върху вашите собствени данни.
ComfyUI за Flux, SDXL и видео работни процеси.
Образи с PyTorch и Ubuntu 24.04 с NVIDIA CUDA, достъпни през SSH.
Ubuntu десктоп в браузъра или пълна KVM виртуална машина, когато ви е необходима.
Всеки шаблон посочва минималната версия на CUDA, VRAM и диск; за него се предлагат само съвместими GPU.
Натоварвания, които се побират в паметта на GPU: инференция и фина настройка на LLM, генериране на изображения и видео, рендиране и разработка с CUDA. Шаблоните за PyTorch, vLLM, SGLang, Ollama, Unsloth и ComfyUI инсталират софтуера вместо вас.
През SSH с вашия ключ или с терминала в браузъра от конзолата. Шаблоните за десктоп и VM осигуряват и графичен достъп.
Цените идват от актуалната наличност на GPU и могат да се променят. Конзолата показва потвърдената цена преди поръчка, а сървърът ви се таксува по тази потвърдена цена.
При почасово таксуване спрян сървър се таксува само за диска. Изтрийте сървъра, когато вече не се нуждаете от данните му.
В таблицата по-горе са изброени конфигурациите, които са налични в момента, включително NVIDIA RTX 5090 с 32 GB VRAM, когато е в наличност. Наличността се променя през деня.