Lei NVIDIA RTX 3080 Ti GPU per time
NVIDIA RTX 3080 Ti er et forbrukerkort (GPU) basert på Ampere-arkitekturen, med 12 GB VRAM og en TDP på 350 W. På ONIE gir det omtrent 35.1 TFLOPS standard flyttallsberegning og en minnebåndbredde på omtrent 787 GB/s. Med CUDA compute capability 8.6 håndterer GPU-en mellomstore maskinlæringsoppgaver, inferens og kreativ rendering.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva RTX 3080 Ti er god til
Kvantisert LLM-inferens
Kjør kompakte og kvantiserte språkmodeller innenfor 12 GB VRAM ved hjelp av ferdige maler som Ollama eller vLLM.
Bildegenerering med ComfyUI
Generer bilder og test diffusjonspipelines med ComfyUI-malen, og dra nytte av omtrent 787 GB/s minnebåndbredde til prompt-behandling.
PyTorch-modellprototyping
Utvikle, feilsøk og tren små til mellomstore nevrale nettverk i PyTorch og CUDA på en Ampere-GPU med compute capability 8.6.
GPU-akselerert rendering
Bruk omtrent 35.1 TFLOPS regnekraft til å rendere scener og bake teksturer som får plass innenfor 12 GB minne.
Er dette den riktige GPU-en for deg?
RTX 3080 Ti passer for utviklere og skapere som trenger sterk Ampere-regnekraft til arbeidsbelastninger som får plass godt innenfor 12 GB VRAM. Velg et mindre forbrukerkort for enkel scripting eller lett inferens, eller gå opp til en GPU med mer VRAM hvis du skal finjustere store modeller eller laste ukvantiserte vekter.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er RTX 3080 Ti egnet for LLM-inferens og finjustering?
Med 12 GB VRAM og omtrent 787 GB/s minnebåndbredde passer den godt for mindre eller kvantiserte språkmodeller via Ollama eller vLLM. For full finjustering eller kjøring av større ukvantiserte modeller anbefales en GPU med høyere VRAM-kapasitet.
Hvordan står RTX 3080 Ti seg mot nærliggende Ampere-forbrukerkort?
RTX 3080 Ti ligger mellom standard RTX 3080 og de Ampere-kortene med mer minne i forbrukersegmentet. Den tilbyr 12 GB VRAM og omtrent 35.1 TFLOPS regnekraft. Hvis arbeidsbelastningen er beregningsbundet og får plass i 12 GB, gir den god gjennomstrømning uten å gå opp til et kort med mer minne.
Hvordan kobler jeg til RTX 3080 Ti-instansen på ONIE?
Du kan koble til direkte via SSH når instansen kjører. ONIE tilbyr også ferdigkonfigurerte maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI, slik at du kan begynne å jobbe med en gang.
Hvordan fungerer fakturering for denne GPU-en?
Instanser på ONIE faktureres per time. Du betaler kun for tiden RTX 3080 Ti-instansen din er aktiv.
Lei RTX 3080 Ti per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei RTX 3080 Ti