Lei NVIDIA RTX 3090 GPU per time
NVIDIA RTX 3090 er en forbruker-GPU med Ampere-arkitektur, utstyrt med 24 GB VRAM og compute capability 8.6. Den leverer omtrent 35,4 TFLOPS standard enkeltpresisjonsregning og omtrent 805 GB/s minnebåndbredde ved en effektgrense på 350 W. Du kan leie denne GPU-en på ONIE med timebasert fakturering, full SSH-tilgang og klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva RTX 3090 er god til
LLM-inferens i lokal skala
Kjør kvantiserte eller mellomstore språkmodeller i 24 GB VRAM ved hjelp av forhåndskonfigurerte vLLM- eller Ollama-maler.
Arbeidsflyter for bildegenerering
Installer ComfyUI for å generere bilder i høy oppløsning og kjøre egendefinerte diffusjonspipelines uten å støte på minnegrenser, som ofte oppstår på vanlige forbruker-kort.
Finjustering og trening av modeller
Bruk PyTorch/CUDA-malen til å finjustere nevrale nettverk som får plass i en minneramme på 24 GB, og dra nytte av omtrent 805 GB/s minnebåndbredde.
Generell CUDA-regning
Kjør egendefinerte arbeidsbelastninger kompilert for compute capability 8.6 med omtrent 35,4 TFLOPS enkeltpresisjonsytelse.
Er dette den riktige GPU-en for deg?
RTX 3090 passer for utviklere og forskere som trenger 24 GB VRAM til minnekrevende oppgaver på et Ampere-kort i forbrukersegmentet. Velg en mindre GPU for lettvektsinferens som krever mindre minne, eller gå opp til en arbeidsstasjons- eller datasenter-GPU hvis modellene dine overstiger 24 GB VRAM eller krever nyere arkitekturfunksjoner.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er RTX 3090 egnet for LLM-inferens og finjustering?
Ja, 24 GB VRAM og omtrent 805 GB/s minnebåndbredde gjør at den kan kjøre og finjustere mange språkmodeller med åpne vekter. Du kan starte vLLM-, Ollama- eller PyTorch/CUDA-maler direkte på ONIE og komme raskt i gang.
Hvordan sammenlignes RTX 3090 med mindre eller større GPU-er?
Med 24 GB VRAM har RTX 3090 plass til betydelig flere modellvekter og større batchstørrelser enn forbruker-kort i lavere klasse. Hvis arbeidsbelastningen din krever mer enn 24 GB minne eller høyere enn omtrent 35,4 TFLOPS enkeltpresisjonsregning, bør du vurdere en nyere generasjon eller en GPU i datasenterklassen.
Hvordan kobler jeg til RTX 3090-instansen min, og hvilken programvare følger med?
Du kan koble direkte til instansen din via SSH-tilgang. ONIE tilbyr klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI, slik at du slipper å konfigurere programvarestakken manuelt.
Hvordan fungerer fakturering for RTX 3090 på ONIE?
Instanser faktureres per time. Du betaler kun for tiden GPU-instansen din er aktiv.
Lei RTX 3090 per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei RTX 3090