Sklepanje z LLM-ji
vLLM, SGLang ali Ollama z Open WebUI za posredovanje in testiranje jezikovnih modelov.
GPU oblak za AI, LLM-je in upodabljanje
Najemite strežnike NVIDIA GPU po uri ali po obračunskem obdobju. Primerjajte konfiguracije in cene v živo, začnite s pripravljeno predlogo in se povežite prek SSH ali brskalniškega terminala.
- Zaloga GPU-jev v živo s trenutnimi cenami
- Predloge za PyTorch, posredovanje LLM-jev in ustvarjanje slik
- Dostop do SSH in terminala v brskalniku
Z ONIE GPU Cloud najamete strežnik GPU iz zaloge v živo: izberete model GPU-ja, VRAM in disk, začnete s predlogo, kot so PyTorch, vLLM, Ollama ali ComfyUI, nato se povežete prek SSH. Strežniki z urnim obračunavanjem se obračunavajo iz stanja na vašem računu, ustavljen strežnik z urnim obračunavanjem pa se obračunava samo za disk.
Razpoložljivi GPU-ji in trenutne cene
Stanje zalog v živo: razpoložljivost in cene se spreminjajo glede na tržne razmere. Konzola pred naročilom potrdi končno ceno.
Nalaganje trenutnih cen…
Predloge, pripravljene za vaše delovne obremenitve
Fino prilagajanje
Unsloth Studio za fino prilagajanje jezikovnih modelov na vaših podatkih.
Ustvarjanje slik in videa
ComfyUI za delovne tokove Flux, SDXL in video.
Razvoj s PyTorch in CUDA
Slike PyTorch in Ubuntu 24.04 z NVIDIA CUDA, dostopne prek SSH.
Namizje ali celoten VM
Namizje Ubuntu v brskalniku ali popolnoma virtualni stroj KVM, kadar ga potrebujete.
Vsaka predloga navaja najnižjo različico CUDA, VRAM in disk; zanjo so ponujeni samo združljivi GPU-ji.
Kako najeti GPU
- 01
Izberite predlogo in velikost diska
- 02
Izberite združljiv GPU iz zaloge v realnem času
- 03
Potrdite ceno in ustvarite strežnik iz stanja na vašem računu
- 04
Povežite se prek SSH ali brskalniškega terminala
Kako deluje obračunavanje za GPU
- Urno: GPU se obračunava po uri, medtem ko strežnik deluje. Ustavljen strežnik z urnim obračunavanjem se obračunava samo za disk.
- Obračunska obdobja: mesečno, četrtletno, polletno ali letno, pri čemer je morebiten popust prikazan pred plačilom.
- Shramba na disku se obračunava po GB skupaj s ceno GPU-ja.
- Cene so v USD; prikažete jih lahko tudi v VND po trenutnem menjalnem tečaju.
Pogosto zastavljena vprašanja
Kaj lahko zaženem na najetem GPU-ju?
Delovne obremenitve, ki se prilegajo pomnilniku GPU-ja: sklepanje z LLM-ji in fino prilagajanje, ustvarjanje slik in videa, upodabljanje ter razvoj s CUDA. Predloge za PyTorch, vLLM, SGLang, Ollama, Unsloth in ComfyUI programsko opremo namestijo namesto vas.
Kako se povežem s strežnikom GPU?
Prek SSH s svojim ključem ali s terminalom v brskalniku iz konzole. Predloge za namizje in VM omogočajo tudi grafični dostop.
Ali je cena fiksna?
Cene prihajajo iz zaloge GPU-jev v živo in se lahko spremenijo. Konzola pred naročilom prikaže potrjeno ceno, strežnik pa se obračunava po tej potrjeni ceni.
Kaj plačam, ko je strežnik ustavljen?
Pri urniku po porabi se ustavljen strežnik zaračunava samo za disk. Strežnik izbrišite, ko podatkov ne potrebujete več.
Katere GPU-je imate na voljo?
Zgoraj navedeni seznam prikazuje trenutno razpoložljive konfiguracije, vključno z NVIDIA RTX 5090 z 32 GB VRAM-a, kadar je na zalogi. Razpoložljivost se čez dan spreminja.