GPU Cloud · NVIDIA · Ada Lovelace

Lej en NVIDIA RTX 4080S GPU pr. time

NVIDIA RTX 4080S er et GPU i forbrugersegmentet, bygget på Ada Lovelace-arkitekturen, med 16 GB VRAM og compute capability 8.9. På ONIE-instanser leverer det cirka 50,9 TFLOPS standard floating-point-ydelse og cirka 600 GB/s hukommelsesbåndbredde inden for en effektramme på 320 W. Du kan udrulle det med timebaseret fakturering, fuld SSH-adgang og forkonfigurerede skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.

Specifikationer

VRAM pr. GPU

16 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-beregning

≈ 50.9 TFLOPS

Hukommelsesbåndbredde

≈ 600 GB/s

Effektgrænse

320 W

Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.

Tilgængelige konfigurationer

Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.

Indlæser aktuelle priser…

Hvad RTX 4080S er god til

Kvantiseret LLM-inferens

Kør små til mellemstore sprogmodeller med vLLM- eller Ollama-skabeloner inden for det 16 GB VRAM-budget og cirka 600 GB/s hukommelsesbåndbredde.

Diffusion-billedgenerering

Kør ComfyUI-workflows og billedsyntesepipelines med Ada Lovelace-arkitekturen og cirka 50,9 TFLOPS compute.

PyTorch-modelprototyping

Udvikl, test og debug deep learning-kode på hardware med compute capability 8.9, før du skalerer op til workstation- eller datacenter-GPU'er.

LoRA-finjustering

Udfør parameter-effektiv finjustering af kompakte modeller og datasæt, der rummer komfortabelt inden for 16 GB hukommelse.

Er det den rigtige GPU til dig?

Vælg RTX 4080S, når din arbejdsbyrde kræver moderne Ada Lovelace-understøttelse og passer inden for et 16 GB forbrugerhukommelsesfodaftryk. Vælg et mindre GPU til let test, der kræver mindre hukommelse, eller opgrader til et større forbrugs-, workstation- eller datacenterkort, når ikke-kvantiserede modeller eller store batch-størrelser overskrider 16 GB VRAM.

Sammenlign med lignende GPU'er

GPUVRAM pr. GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 4080S16 GBAda Lovelace≈ 50.9 TFLOPS—
RTX 408016 GBAda Lovelace≈ 48.6 TFLOPS—Detaljer
RTX 508016 GBBlackwell≈ 53.4 TFLOPS—Detaljer
RTX 5070 Ti16 GBBlackwell≈ 44.3 TFLOPS—Detaljer

Ofte stillede spørgsmål

Er RTX 4080S egnet til LLM-inferens og finjustering?

Med 16 GB VRAM og cirka 600 GB/s hukommelsesbåndbredde håndterer det inferens på små eller kvantiserede modeller samt parameter-effektiv finjustering som LoRA. Fuld finjustering af større modeller kræver en GPU med højere hukommelseskapacitet.

Hvordan står RTX 4080S sig over for nabo-niveauerne af GPU'er?

Som et 16 GB Ada Lovelace-forbrugerkort, der leverer cirka 50,9 TFLOPS inden for en TDP på 320 W, ligger det over indgangsniveau-forbrugs-GPU'er med mindre hukommelsesbuffere. Det har mindre VRAM og hukommelsesbåndbredde end high-end forbrugsmodeller eller workstation- og datacenter-GPU'er designet til tungere arbejdsbyrder.

Hvilke softwareskabeloner og forbindelsesmetoder understøttes på ONIE?

Instanser inkluderer direkte SSH-adgang og klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI. Kortet understøtter software, der er rettet mod CUDA compute capability 8.9.

Hvordan fungerer fakturering for en RTX 4080S-leje?

ONIE bruger timebaseret fakturering for RTX 4080S-instanser, så du kun betaler for den tid, din instans er aktiv.

Lej RTX 4080S per time

Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.

Lej RTX 4080S

Alle GPU'er →