GPU Cloud · NVIDIA · Blackwell

Lei NVIDIA RTX 5060 Ti GPU per time

NVIDIA RTX 5060 Ti er et forbruker-GPU bygget på Blackwell-arkitekturen med compute capability 12.0. Den har 16 GB VRAM, omtrent 22.8 TFLOPS standard flyttallsberegning og omtrent 368 GB/s minnebåndbredde innenfor en effektramme på 180 W. Du kan leie denne GPU-en på ONIE med timebasert fakturering, SSH-tilgang og ferdige maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.

Spesifikasjoner

VRAM per GPU

16 GB

Arkitektur

NVIDIA Blackwell

Compute capability

12.0

FP32-beregning

≈ 22.8 TFLOPS

Minnebåndbredde

≈ 368 GB/s

Effektgrense

180 W

Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.

Tilgjengelige konfigurasjoner

Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.

Laster inn live-priser…

Hva RTX 5060 Ti er god til

LLM-inferens i mindre skala

Kjør kvantiserte språkmodeller med Ollama- eller vLLM-maler som får plass komfortabelt innenfor 16 GB VRAM.

Generative bildearbeidsflyter

Ta i bruk ComfyUI-pipelines for bildegenerering og diffusjonsoppgaver som støttes av Blackwell-arkitekturen.

Prototyping av PyTorch-modeller

Utvikle, test og feilsøk dyp læringskode på maskinvare med compute capability 12.0 før du skalerer opp.

Parameter-effektiv finjustering

Kjør lette adapter-treningsjobber og finjusteringsjobber som holder seg innenfor et minneavtrykk på 16 GB.

Er dette den riktige GPU-en for deg?

RTX 5060 Ti passer for utviklere som trenger 16 GB VRAM og funksjoner fra Blackwell-arkitekturen til moderat inferens, bildegenerering og prototyping. Velg en mindre GPU for enkle skript med lite minnebehov, eller gå opp til en større forbruker- eller datasenter-GPU når arbeidsbelastningene krever mer VRAM eller høyere minnebåndbredde enn omtrent 368 GB/s.

Sammenlign med lignende GPU-er

GPUVRAM per GPUArkitekturFP32-beregningFra / timeDetaljer
RTX 5060 Ti16 GBBlackwell≈ 22.8 TFLOPS—
RTX 4060 Ti16 GBAda Lovelace≈ 21.6 TFLOPS—Detaljer
RTX A400016 GBAmpere≈ 20.6 TFLOPS—Detaljer
L422 GBAda Lovelace≈ 24.2 TFLOPS—Detaljer

Ofte stilte spørsmål

Er RTX 5060 Ti egnet for LLM-inferens og finjustering?

Med 16 GB VRAM og omtrent 368 GB/s minnebåndbredde håndterer den små til mellomstore kvantiserte språkmodeller for inferens via Ollama eller vLLM, samt lett adapter-finjustering. Full finjustering av større modeller krever en GPU med mer minne.

Hvordan sammenlignes RTX 5060 Ti med 16 GB med mindre eller større GPU-er?

Med 16 GB VRAM har den mer plass til modellvekter og bildebatcher enn GPU-er for forbrukere på inngangsnivå med mindre minnebuffere. Forbruker- eller arbeidsstasjons-GPU-er i høyere klasse gir imidlertid større beregningsytelse enn omtrent 22.8 TFLOPS og bredere minnebåndbredde for tunge treningsjobber.

Hvilke programvaremiljøer er tilgjengelige når du leier denne GPU-en?

Instanser på ONIE inkluderer full SSH-tilgang og forhåndskonfigurerte maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI. Kortet støtter CUDA compute capability 12.0 på NVIDIA Blackwell-arkitekturen.

Hvordan fungerer fakturering for RTX 5060 Ti på ONIE?

Forbruket faktureres per time for tiden instansen er aktiv. Du kan koble til via SSH eller starte en ferdig mal, og stoppe instansen når oppgaven er ferdig.

Lei RTX 5060 Ti per time

Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.

Lei RTX 5060 Ti

Alle GPU-er →