GPU Cloud · NVIDIA · Ada Lovelace

Lei NVIDIA RTX 4090 GPU per time

NVIDIA RTX 4090 er en GPU i forbrukersegmentet, bygget på Ada Lovelace-arkitekturen, og kan leies på ONIE. Den har 24 GB VRAM, omtrent 81,4 TFLOPS standard flyttallsberegning og en minnebåndbredde på omtrent 879 GB/s. Med CUDA compute capability 8.9 og en effektprofil på 450 W håndterer den krevende AI- og grafikkarbeidsbelastninger.

Spesifikasjoner

VRAM per GPU

24 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-beregning

≈ 81.4 TFLOPS

Minnebåndbredde

≈ 879 GB/s

Effektgrense

450 W

Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.

Tilgjengelige konfigurasjoner

Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.

Laster inn live-priser…

Hva RTX 4090 er god til

Lokal LLM-inferens

Kjør kvantiserte store språkmodeller med forhåndskonfigurerte vLLM- eller Ollama-maler innenfor 24 GB VRAM-kapasiteten.

Bildegenerering og diffusjon

Ta i bruk ComfyUI-arbeidsflyter for bildesyntese i høy oppløsning, drevet av Ada Lovelace-beregningskraft.

Prototyping av dyp læring

Tren og finjuster nevrale nettverk av middels størrelse med PyTorch/CUDA-malen og omtrent 879 GB/s minnebåndbredde.

Grafikkrendering og simulering

Kjør raytracet rendering og fysikksimuleringer med omtrent 81,4 TFLOPS beregningsytelse.

Er dette den riktige GPU-en for deg?

Velg RTX 4090 når arbeidsbelastningene dine krever sterk Ada Lovelace-beregningskraft og får plass komfortabelt innenfor 24 GB minne. Velg en mindre GPU i forbrukersegmentet for lette inferensoppgaver for å redusere kostnadene, eller gå opp til en workstation- eller datasenter-GPU når du trener modeller som krever mer enn 24 GB VRAM.

Sammenlign med lignende GPU-er

GPUVRAM per GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 409024 GBAda Lovelace≈ 81.4 TFLOPS—
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—Detaljer
RTX 509032 GBBlackwell≈ 107.6 TFLOPS—Detaljer
RTX 5090D32 GBBlackwell≈ 107.6 TFLOPS—Detaljer

Ofte stilte spørsmål

Er RTX 4090 egnet for LLM-inferens og finjustering?

Ja, 24 GB VRAM og omtrent 879 GB/s minnebåndbredde gjør den godt egnet til å kjøre små til mellomstore språkmodeller og parametereffektiv finjustering. Hvis modellvektene og kontekstvinduet overstiger 24 GB, trenger du en workstation- eller datasenter-GPU med større minnekapasitet.

Hvordan kobler jeg meg til RTX 4090-instansen, og hvilken programvare er inkludert?

Du kan koble deg direkte til instansen din via SSH. ONIE tilbyr ferdige maler, blant annet PyTorch/CUDA, vLLM, Ollama og ComfyUI, slik at du kan begynne å jobbe med CUDA compute capability 8.9 med en gang.

Hvordan står RTX 4090 seg sammenlignet med workstation- eller datasenter-GPU-er?

Som et kort i forbrukersegmentet med en termisk designeffekt på 450 W gir RTX 4090 høy beregningstetthet på omtrent 81,4 TFLOPS. Den er imidlertid begrenset til 24 GB VRAM, mens GPU-er i workstation- og datasenterklassen tilbyr større minnekapasitet for svært store datasett.

Hvordan fungerer fakturering for leie av RTX 4090?

ONIE bruker timebasert fakturering for alle GPU-leier. Du betaler bare for tiden instansen din er aktiv.

Lei RTX 4090 per time

Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.

Lei RTX 4090

Alle GPU-er →