LLM-inferens
vLLM, SGLang eller Ollama med Open WebUI for å kjøre og teste språkmodeller.
Leie NVIDIA GPU-servere per time eller etter faktureringsperiode. Sammenlign konfigurasjoner og priser i sanntid, start fra en ferdig mal og koble til via SSH eller terminalen i nettleseren.
Med ONIE GPU Cloud leier du en GPU-server fra de tilgjengelige GPU-ene: velg GPU-modell, VRAM og disk, start fra en mal som PyTorch, vLLM, Ollama eller ComfyUI, og koble deretter til via SSH. Timebaserte servere belastes fra saldoen på kontoen din, og en stoppet timebasert server faktureres kun for disken.
Lagerstatus i sanntid: tilgjengelighet og priser endrer seg med markedet. Konsollen bekrefter endelig pris før du bestiller.
vLLM, SGLang eller Ollama med Open WebUI for å kjøre og teste språkmodeller.
Unsloth Studio for finjustering av språkmodeller med dine egne data.
ComfyUI for Flux, SDXL og videoarbeidsflyter.
PyTorch- og Ubuntu 24.04-images med NVIDIA CUDA, tilgjengelig via SSH.
Et Ubuntu-skrivebord i nettleseren, eller en full KVM-virtuell maskin når du trenger det.
Hver mal viser minimum CUDA-versjon, VRAM og disk; kun kompatible GPU-er tilbys for den.
Arbeidsbelastninger som får plass i GPU-minnet: LLM-inferens og finjustering, bilde- og videogenerering, rendering og CUDA-utvikling. Maler for PyTorch, vLLM, SGLang, Ollama, Unsloth og ComfyUI installerer programvaren for deg.
Via SSH med nøkkelen din, eller med terminalen i nettleseren fra konsollen. Skrivebords- og VM-maler gir også grafisk tilgang.
Prisene kommer fra de tilgjengelige GPU-ene og kan endre seg. Konsollen viser den bekreftede prisen før du bestiller, og serveren din faktureres til den bekreftede prisen.
Med timebasert fakturering faktureres en stoppet server bare for disken. Slett serveren når du ikke lenger trenger dataene.
Tabellen over viser konfigurasjonene som er tilgjengelige nå, inkludert NVIDIA RTX 5090 med 32 GB VRAM når den er på lager. Tilgjengeligheten endres i løpet av dagen.