LLM инференца
vLLM, SGLang или Ollama са Open WebUI-jem за послуживање и тестирање језичких модела.
Изнајмите NVIDIA GPU сервере по сату или по периоду обрачуна. Упоредите актуелне конфигурације и цене, почните од готовог шаблона и повежите се преко SSH-а или терминала у прегледачу.
Са ONIE GPU Cloud-ом изнајмљујете GPU сервер из актуелне понуде: изаберете модел GPU-а, VRAM и диск, почнете од шаблона као што су PyTorch, vLLM, Ollama или ComfyUI, а затим се повежете преко SSH-а. Сервери са обрачунавањем по сату наплаћују се из стања на вашем налогу, а заустављен сервер се наплаћује само за диск.
Инвентар у реалном времену: доступност и цене се мењају с тржиштем. Конзола потврђује коначну цену пре наруџбине.
vLLM, SGLang или Ollama са Open WebUI-jem за послуживање и тестирање језичких модела.
Unsloth Studio за фино подешавање језичких модела на вашим подацима.
ComfyUI за Flux, SDXL и видео токове рада.
PyTorch и Ubuntu 24.04 слике са NVIDIA CUDA-ом, доступне преко SSH-а.
Ubuntu десктоп у прегледачу или пуна KVM виртуелна машина када вам је потребна.
Сваки шаблон наводи минималну CUDA верзију, VRAM и диск. За њега се нуде само компатибилни GPU уређаји.
Радна оптерећења која стају у меморију GPU-а: LLM инференца и фино подешавање, генерисање слика и видео записа, рендеровање и развој у CUDA-и. Шаблони за PyTorch, vLLM, SGLang, Ollama, Unsloth и ComfyUI сами инсталирају софтвер.
Преко SSH-а са својим кључем или терминалом у прегледачу из конзоле. Шаблони за десктоп и VM пружају и графички приступ.
Цене долазе из актуелне понуде GPU уређаја и могу се променити. Конзола приказује потврђену цену пре наруџбе, а ваш сервер се наплаћује по тој потврђеној цени.
Са обрачуном по сату, заустављени сервер се наплаћује само за свој диск. Обришите сервер када вам више не требају његови подаци.
Табела изнад приказује конфигурације које су тренутно доступне, укључујући NVIDIA RTX 5090 са 32 GB VRAM-а када је на стању. Доступност се мења током дана.