GPU Cloud · NVIDIA · Ada Lovelace

Lej en NVIDIA RTX 4070S GPU pr. time

NVIDIA RTX 4070S er et GPU i forbrugersegmentet bygget på Ada Lovelace-arkitekturen med CUDA compute capability 8.9. Når du lejer det på ONIE, får dit miljø 12 GB VRAM, cirka 35,8 TFLOPS standard flydende-komma-regning og en hukommelsesbåndbredde på cirka 411 GB/s. Med et TDP på 220 W håndterer kortet mellemstore generative AI- og udviklingsopgaver med timebaseret fakturering og fuld SSH-adgang.

Specifikationer

VRAM pr. GPU

12 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-beregning

≈ 35.8 TFLOPS

Hukommelsesbåndbredde

≈ 411 GB/s

Effektgrænse

220 W

Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.

Tilgængelige konfigurationer

Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.

Indlæser aktuelle priser…

Hvad RTX 4070S er god til

Kvantiseret LLM-inferens

Kør kompakte eller kvantiserede sprogmodeller inden for de 12 GB VRAM ved hjælp af forkonfigurerede Ollama- eller vLLM-skabeloner.

Diffusionsbaseret billedgenerering

Generer og itererer på visuelle aktiver med ComfyUI, med udnyttelse af Ada Lovelace-arkitekturen og cirka 35,8 TFLOPS compute.

PyTorch-modelprototyping

Udvikl, test og fejlret deep learning-kode ved hjælp af den klar PyTorch/CUDA-skabelon på hardware, der understøtter compute capability 8.9.

Finjustering af små modeller

Kør parameter-effektive finjusteringsjobs og lette træningskørsler, der passer komfortabelt inden for et 12 GB hukommelsesloft.

Er det den rigtige GPU til dig?

Vælg RTX 4070S, når dine arbejdsopgaver kræver moderne Ada Lovelace-funktioner og compute capability 8.9 inden for en 12 GB hukommelsesramme. Vælg et mindre GPU til simple scripts og meget let inferens, eller gå op til et større workstation- eller datacenter-GPU, hvis dine modeller overstiger 12 GB VRAM eller kræver mere end cirka 411 GB/s hukommelsesbåndbredde.

Sammenlign med lignende GPU'er

GPUVRAM pr. GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—Detaljer
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Detaljer
RTX 308010 GBAmpere≈ 29.5 TFLOPS—Detaljer

Ofte stillede spørgsmål

Er RTX 4070S egnet til LLM-inferens og billedgenerering?

Ja, de 12 GB VRAM og cirka 411 GB/s hukommelsesbåndbredde klarer kompakte eller kvantiserede sprogmodeller og standard diffusion-workflows godt. Du kan køre disse arbejdsopgaver direkte på ONIE ved hjælp af klar-til-brug-skabeloner til Ollama, vLLM og ComfyUI.

Hvordan sammenlignes dette GPU med større eller mindre muligheder?

Som et 12 GB kort i forbrugersegmentet tilbyder RTX 4070S mere hukommelsesplads og compute end GPU'er på begynderniveau, samtidig med at det holder et moderat TDP på 220 W. Hvis du dog træner store netværk eller kører ukvantiserede modeller, der overstiger 12 GB, bør du vælge et GPU i en højere klasse, enten til forbrug eller workstation, med større hukommelseskapacitet.

Hvilke softwareskabeloner og adgangsmetoder er inkluderet?

Alle instanser på ONIE inkluderer direkte SSH-adgang, så du kan administrere dit miljø fra din terminal. Du kan også starte instanser med forkonfigurerede skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.

Hvordan fungerer fakturering for RTX 4070S på ONIE?

Instanser faktureres på timebasis, så du kun betaler for den tid, dit GPU er aktivt. Du kan oprette et miljø til en kort prototypesession og afslutte det, når dit job er færdigt.

Lej RTX 4070S per time

Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.

Lej RTX 4070S

Alle GPU'er →