GPU Cloud · NVIDIA · Ada Lovelace

Lej en NVIDIA RTX 4090 GPU pr. time

NVIDIA RTX 4090 er en GPU i forbrugersegmentet bygget på Ada Lovelace-arkitekturen, som kan lejes på ONIE. Den har 24 GB VRAM, cirka 81,4 TFLOPS standard flydende-komma-beregning og en hukommelsesbåndbredde på cirka 879 GB/s. Med CUDA compute capability 8.9 og en effektprofil på 450 W håndterer den krævende AI- og grafikarbejdsbelastninger.

Specifikationer

VRAM pr. GPU

24 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-beregning

≈ 81.4 TFLOPS

Hukommelsesbåndbredde

≈ 879 GB/s

Effektgrænse

450 W

Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.

Tilgængelige konfigurationer

Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.

Indlæser aktuelle priser…

Hvad RTX 4090 er god til

Lokal LLM-inferens

Kør kvantiserede store sprogmodeller med forudkonfigurerede vLLM- eller Ollama-skabeloner inden for de 24 GB VRAM.

Billedgenerering og diffusion

Implementer ComfyUI-workflows til billedsyntese i høj opløsning med Ada Lovelace-beregning.

Prototyping af deep learning

Træn og finjuster mellemstore neurale netværk med PyTorch/CUDA-skabelonen og cirka 879 GB/s hukommelsesbåndbredde.

Grafikrendering og simulering

Kør ray-traced rendering og fysiksimuleringer med cirka 81,4 TFLOPS beregningsydelse.

Er det den rigtige GPU til dig?

Vælg RTX 4090, når dine arbejdsbelastninger har brug for kraftig Ada Lovelace-beregning og passer komfortabelt inden for 24 GB hukommelse. Vælg en mindre forbruger-GPU til letvægts-inferens for at reducere omkostningerne, eller gå op til en workstation- eller datacenter-GPU, når du træner modeller, der kræver mere end 24 GB VRAM.

Sammenlign med lignende GPU'er

GPUVRAM pr. GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 409024 GBAda Lovelace≈ 81.4 TFLOPS—
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—Detaljer
RTX 509032 GBBlackwell≈ 107.6 TFLOPS—Detaljer
RTX 5090D32 GBBlackwell≈ 107.6 TFLOPS—Detaljer

Ofte stillede spørgsmål

Er RTX 4090 egnet til LLM-inferens og finjustering?

Ja, de 24 GB VRAM og cirka 879 GB/s hukommelsesbåndbredde gør den velegnet til at servere små til mellemstore sprogmodeller og køre parameter-effektiv finjustering. Hvis dine modelvægte og kontekstvindue overstiger 24 GB, skal du bruge en workstation- eller datacenter-GPU med større hukommelseskapacitet.

Hvordan opretter jeg forbindelse til RTX 4090-instansen, og hvilken software er inkluderet?

Du kan oprette forbindelse direkte til din instans via SSH-adgang. ONIE tilbyder klar-til-brug-skabeloner, herunder PyTorch/CUDA, vLLM, Ollama og ComfyUI, så du kan begynde at arbejde med CUDA compute capability 8.9 med det samme.

Hvordan sammenlignes RTX 4090 med workstation- eller datacenter-GPU'er?

Som et kort i forbrugersegmentet med en termisk designeffekt på 450 W leverer RTX 4090 høj beregningstæthed på cirka 81,4 TFLOPS. Den er dog begrænset til 24 GB VRAM, mens workstation- og datacenter-GPU'er i højere klasser tilbyder større hukommelsespuljer til massive datasæt.

Hvordan fungerer fakturering for leje af RTX 4090?

ONIE bruger timebaseret fakturering for alle GPU-lejemål. Du betaler kun for den tid, din instans er aktiv.

Lej RTX 4090 per time

Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.

Lej RTX 4090

Alle GPU'er →