GPU Cloud · NVIDIA · Ampere

Lei NVIDIA RTX 3090 Ti GPU per time

NVIDIA RTX 3090 Ti er et forbruker-GPU med Ampere-arkitektur, utstyrt med 24 GB VRAM og en termisk designeffekt på 450 W. Den leverer omtrent 36,4 TFLOPS enkeltpresisjonsregning og omtrent 865 GB/s minnebåndbredde, og støtter CUDA compute capability 8.6. På ONIE kan du leie denne maskinvaren med timebasert fakturering, direkte SSH-tilgang og forhåndskonfigurerte programvaremaler.

Spesifikasjoner

VRAM per GPU

24 GB

Arkitektur

NVIDIA Ampere

Compute capability

8.6

FP32-beregning

≈ 36.4 TFLOPS

Minnebåndbredde

≈ 865 GB/s

Effektgrense

450 W

Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.

Tilgjengelige konfigurasjoner

Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.

Laster inn live-priser…

Hva RTX 3090 Ti er god til

Lokal LLM-inferens

Kjør kvantiserte språkmodeller som får plass i 24 GB VRAM, ved hjelp av ferdige vLLM- eller Ollama-maler.

Generative bildearbeidsflyter

Kjør komplekse diffusjonspipelines og egendefinerte nodegrafer med ComfyUI-malen, og dra nytte av omtrent 865 GB/s minnebåndbredde.

Prototyping innen dyp læring

Utvikle og test nevrale nettverk i PyTorch med CUDA compute capability 8.6 og omtrent 36,4 TFLOPS enkeltpresisjonsregning.

LoRA-finjustering

Tren lette adaptere og finjuster mellomstore bilde- eller tekstmodeller uten å overskride minnegrensen på 24 GB.

Er dette den riktige GPU-en for deg?

RTX 3090 Ti er et praktisk valg for utviklere og forskere som trenger 24 GB VRAM på et forbruker-kort med Ampere-arkitektur, til inferens eller moderate treningsoppgaver. Velg en GPU med mindre minne hvis du bare kjører små modeller, eller gå opp til en arbeidsstasjons- eller datasenter-GPU hvis arbeidsbelastningene dine krever mer enn 24 GB VRAM eller nyere arkitektoniske funksjoner.

Sammenlign med lignende GPU-er

GPUVRAM per GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—
RTX 309024 GBAmpere≈ 35.4 TFLOPS—Detaljer
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Detaljer
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Detaljer

Ofte stilte spørsmål

Er RTX 3090 Ti egnet for LLM-inferens og bildegenerering?

Ja, 24 GB VRAM og omtrent 865 GB/s minnebåndbredde gjør den godt egnet til å kjøre mellomstore eller kvantiserte språkmodeller og bildegenereringsarbeidsflyter. Du kan starte forhåndskonfigurerte maler for vLLM, Ollama eller ComfyUI med en gang.

Hvordan står RTX 3090 Ti seg mot nyere GPU-er for forbrukere eller arbeidsstasjoner?

Som et forbruker-GPU fra Ampere-generasjonen med compute capability 8.6 tilbyr den samme 24 GB VRAM-kapasitet som nyere high-end-kort for forbrukere, men nyere arkitekturer gir generelt høyere beregningsytelse og bedre energieffektivitet enn den 450 W-designen. Hvis arbeidsbelastningen din er strengt minnebegrenset og får plass innen 24 GB, er den fortsatt et godt alternativ.

Hvordan kobler jeg til RTX 3090 Ti-instansen min på ONIE?

Når instansen kjører, kan du koble direkte til via SSH for full kontroll fra kommandolinjen. Du kan også deploye ferdige maler for PyTorch med CUDA, vLLM, Ollama eller ComfyUI.

Hvordan fungerer fakturering for leie av denne GPU-en?

Instanser på ONIE bruker timebasert fakturering, slik at du bare betaler for tiden RTX 3090 Ti-miljøet ditt er aktivt.

Lei RTX 3090 Ti per time

Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.

Lei RTX 3090 Ti

Alle GPU-er →