LLM-inferens
vLLM, SGLang eller Ollama med Open WebUI til at servere og teste sprogmodeller.
Lej NVIDIA GPU-servere pr. time eller efter faktureringsperiode. Sammenlign aktuelle konfigurationer og priser, start fra en færdig skabelon, og opret forbindelse via SSH eller browserterminalen.
Med ONIE GPU Cloud lejer du en GPU-server fra den aktuelle lagerbeholdning: Vælg GPU-model, VRAM og disk, start fra en skabelon som PyTorch, vLLM, Ollama eller ComfyUI, og opret derefter forbindelse via SSH. Timebaserede servere faktureres fra din kontosaldo, og en stoppet timebaseret server faktureres kun for sin disk.
Live lagerstatus: tilgængelighed og priser ændrer sig med markedet. Konsollen bekræfter den endelige pris, før du bestiller.
vLLM, SGLang eller Ollama med Open WebUI til at servere og teste sprogmodeller.
Unsloth Studio til finjustering af sprogmodeller på dine egne data.
ComfyUI til Flux, SDXL og videoworkflows.
PyTorch- og Ubuntu 24.04-images med NVIDIA CUDA, tilgængelige via SSH.
Et Ubuntu-skrivebord i browseren, eller en fuld KVM-virtuel maskine, når du har brug for det.
Hver skabelon angiver sin minimums-CUDA-version, VRAM og disk; kun kompatible GPU'er tilbydes til den.
Arbejdsbelastninger, der passer i GPU-hukommelsen: LLM-inferens og finjustering, billed- og videogenerering, rendering og CUDA-udvikling. Skabeloner til PyTorch, vLLM, SGLang, Ollama, Unsloth og ComfyUI installerer softwaren for dig.
Via SSH med din nøgle, eller med terminalen i din browser fra konsollen. Skrivebords- og VM-skabeloner giver også grafisk adgang.
Priserne kommer fra den aktuelle GPU-lagerbeholdning og kan ændre sig. Konsollen viser den bekræftede pris, før du bestiller, og din server faktureres til den bekræftede pris.
Ved timebaseret fakturering betaler du kun for disken, når en server er stoppet. Slet serveren, når du ikke længere har brug for dens data.
Tabellen ovenfor viser de konfigurationer, der er tilgængelige lige nu, herunder NVIDIA RTX 5090 med 32 GB VRAM, når den er på lager. Tilgængeligheden ændrer sig i løbet af dagen.