GPU Cloud · NVIDIA · Ada Lovelace

Lej en NVIDIA RTX 4080 GPU pr. time

NVIDIA RTX 4080 er et forbruger-GPU fra Ada Lovelace-arkitekturen med 16 GB VRAM og compute capability 8.9. I vores cloudmiljø leverer den cirka 48,6 TFLOPS enkeltpræcisionsydelse og cirka 576 GB/s hukommelsesbåndbredde ved en effektgrænse på 285 W. Du kan udrulle den på ONIE med timebaseret afregning, fuld SSH-adgang og færdigkonfigurerede skabeloner.

Specifikationer

VRAM pr. GPU

16 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-beregning

≈ 48.6 TFLOPS

Hukommelsesbåndbredde

≈ 576 GB/s

Effektgrænse

285 W

Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.

Tilgængelige konfigurationer

Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.

Indlæser aktuelle priser…

Hvad RTX 4080 er god til

Kvantiseret LLM-inferens

Kør små til mellemstore sprogmodeller, der passer godt inden for 16 GB VRAM, med færdige Ollama- eller vLLM-skabeloner.

Workflows til billedgenerering

Generer billeder i høj opløsning og kør egne diffusionspipelines med den færdige ComfyUI-skabelon.

Modelprototyping og LoRA

Udvikl kode og kør lette parametereffektive finjusteringsjob på PyTorch/CUDA med understøttelse af Ada Lovelace-arkitekturen.

Batchdataprocessering

Udnyt cirka 48,6 TFLOPS enkeltpræcisionsydelse og cirka 576 GB/s hukommelsesbåndbredde til parallel forbehandling af data og inferensopgaver.

Er det den rigtige GPU til dig?

RTX 4080 passer til udviklere, der har brug for Ada Lovelace compute capability 8.9 og 16 GB VRAM til inferens, diffusionsmodeller og prototyping. Vælg et mindre forbruger-GPU til simple scripts med lavere hukommelseskrav, eller gå op til et forbruger-, workstation- eller datacenter-GPU med mere VRAM, hvis dine modelvægte overstiger 16 GB.

Sammenlign med lignende GPU'er

GPUVRAM pr. GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 408016 GBAda Lovelace≈ 48.6 TFLOPS—
RTX 4080S16 GBAda Lovelace≈ 50.9 TFLOPS—Detaljer
RTX 5070 Ti16 GBBlackwell≈ 44.3 TFLOPS—Detaljer
RTX 508016 GBBlackwell≈ 53.4 TFLOPS—Detaljer

Ofte stillede spørgsmål

Er RTX 4080 egnet til LLM-inferens og finjustering?

Med 16 GB VRAM og cirka 576 GB/s hukommelsesbåndbredde kan RTX 4080 håndtere inferens for mindre eller kvantiserede sprogmodeller og lette LoRA-adaptere. Fuld finjustering af store modeller kræver et workstation- eller datacenter-GPU med større hukommelseskapacitet.

Hvordan står RTX 4080 sig over for andre Ada Lovelace-GPU'er?

RTX 4080 ligger i det øvre forbrugersegment med 16 GB VRAM og cirka 48,6 TFLOPS enkeltpræcisionsydelse. Hvis dine workloads er hukommelsesbundne, eller du har brug for at få større ukvantiserede modeller ind i hukommelsen, bør du overveje at gå op til et GPU med mere VRAM.

Hvilke softwareskabeloner er tilgængelige til RTX 4080 på ONIE?

Du kan starte en instans med færdige skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI. Alle instanser har fuld SSH-adgang, så du kan installere egne afhængigheder, der matcher compute capability 8.9.

Hvordan fungerer afregningen for RTX 4080-instanser?

ONIE bruger enkel timebaseret afregning for alle RTX 4080-lejemål. Du betaler kun for den tid, din instans er aktiv.

Lej RTX 4080 per time

Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.

Lej RTX 4080

Alle GPU'er →