Lei NVIDIA RTX 2070S GPU per time
NVIDIA RTX 2070S er en GPU for forbrukersegmentet, bygget på Turing-arkitekturen med 8 GB VRAM og compute capability 7.5. I ONIE-instanser gir den omtrent 8.8 TFLOPS standard flyttallsytelse og omtrent 366 GB/s minnebåndbredde innenfor en strømramme på 210 W. Du kan ta den i bruk med timebasert fakturering, full SSH-tilgang og ferdige maler, inkludert PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva RTX 2070S er god til
Kompakt LLM-inferens
Kjør kvantiserte små språkmodeller med Ollama- eller vLLM-maler innenfor 8 GB VRAM-kapasiteten.
PyTorch-prototyping og feilsøking
Utvikle og test kode for dyp læring på en Turing-GPU med compute capability 7.5 før du skalerer opp til større maskinvare.
Lett bildegenerering
Generer bilder med ComfyUI og standard diffusjonsprosesser som får plass i 8 GB minne.
GPU-beregningsoppgaver
Kjør egendefinerte CUDA-applikasjoner med omtrent 8.8 TFLOPS enkeltpresisjonsregning og omtrent 366 GB/s minnebåndbredde.
Er dette den riktige GPU-en for deg?
Velg RTX 2070S til utvikling, feilsøking og lette inferensoppgaver som får plass innenfor 8 GB VRAM. Gå over til en GPU med mer minne og høyere compute capability for trening av store modeller, eller velg et strømsparende forbrukerkort for enkel skripttesting.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er RTX 2070S egnet for LLM-inferens eller finjustering?
Med 8 GB VRAM og omtrent 366 GB/s minnebåndbredde håndterer RTX 2070S inferens for små, kvantiserte språkmodeller via Ollama eller vLLM. Full finjustering eller kjøring av større modeller krever en GPU med mer VRAM.
Kan jeg bruke denne GPU-en til bildegenerering med ComfyUI?
Ja, ONIE tilbyr en ferdig ComfyUI-mal som kjører på RTX 2070S. 8 GB VRAM støtter standard diffusjonsarbeidsflyter, men tyngre prosesser med flere control nets vil dra nytte av en GPU med mer minne.
Hvordan påvirker Turing-arkitekturen programvarekompatibilitet?
RTX 2070S støtter CUDA compute capability 7.5, som er kompatibel med standard PyTorch/CUDA-maler. Arbeidsbelastninger som krever nyere arkitekturfunksjoner fra senere generasjoner bør imidlertid kjøres på en nyere GPU-arkitektur.
Hvordan kobler jeg til, og hvordan fungerer fakturering på ONIE?
Instanser faktureres per time for den tiden maskinen din er aktiv. Du kan koble til direkte via SSH eller starte forhåndskonfigurerte maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Lei RTX 2070S per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei RTX 2070S