GPU Cloud · NVIDIA · Blackwell

Lloga GPU NVIDIA RTX 5060 Ti per hora

La NVIDIA RTX 5060 Ti és una GPU de consum basada en l'arquitectura Blackwell amb capacitat de càlcul 12.0. Ofereix 16 GB de VRAM, aproximadament 22.8 TFLOPS de càlcul de coma flotant estàndard i aproximadament 368 GB/s d'amplada de banda de memòria, dins d'un consum de 180 W. Pot llogar aquesta GPU a ONIE amb facturació per hora, accés SSH i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.

Especificacions

VRAM per GPU

16 GB

Arquitectura

NVIDIA Blackwell

Capacitat de còmput

12.0

Còmput FP32

≈ 22.8 TFLOPS

Ample de banda de memòria

≈ 368 GB/s

Límit de potència

180 W

Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.

Configuracions disponibles

Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.

Carregant preus en directe…

Per a què serveix la RTX 5060 Ti

Inferència de LLM a escala local

Executi models de llenguatge quantitzats amb les plantilles d'Ollama o vLLM que caben còmodament dins de 16 GB de VRAM.

Fluxos de treball de generació d'imatges

Desplegui pipelines de ComfyUI per a tasques de generació d'imatges i de difusió compatibles amb l'arquitectura Blackwell.

Prototipatge de models PyTorch

Desenvolupi, prova i depuri codi d'aprenentatge profund en maquinari amb capacitat de càlcul 12.0 abans d'escalar-lo.

Ajust fi eficient en paràmetres

Executi tasques d'entrenament i d'ajust fi d'adaptadors lleugers que funcionen amb una memòria de 16 GB.

És la GPU adequada per a vostè?

La RTX 5060 Ti és adequada per a desenvolupadors que necessiten 16 GB de VRAM i funcionalitats de l'arquitectura Blackwell per a inferència moderada, generació d'imatges i prototipatge. Triï una GPU més petita per a scripts bàsics amb requisits de memòria mínims, o passi a una GPU de consum o de centre de dades més gran quan les seves càrregues de treball requereixin més VRAM o més amplada de banda de memòria que aproximadament 368 GB/s.

Compari amb GPU similars

GPUVRAM per GPUArquitecturaCòmput FP32Des de / horaDetalls
RTX 5060 Ti16 GBBlackwell≈ 22.8 TFLOPS—
RTX 4060 Ti16 GBAda Lovelace≈ 21.6 TFLOPS—Detalls
RTX A400016 GBAmpere≈ 20.6 TFLOPS—Detalls
L422 GBAda Lovelace≈ 24.2 TFLOPS—Detalls

Preguntes freqüents

La RTX 5060 Ti és adequada per a la inferència i l'ajust fi de LLM?

Amb 16 GB de VRAM i aproximadament 368 GB/s d'amplada de banda de memòria, gestiona models de llenguatge quantitzats de mida petita a mitjana per a inferència mitjançant Ollama o vLLM, així com l'ajust fi lleuger d'adaptadors. L'ajust fi complet de models més grans requereix una GPU amb més memòria.

Com es compara la RTX 5060 Ti de 16 GB amb GPU més petites o més grans?

Els seus 16 GB de VRAM li donen més espai per als pesos del model i els lots d'imatges que les targetes de consum d'entrada amb memòries intermèdies més petites. Tanmateix, les GPU de consum o d'estació de treball de rang superior ofereixen un rendiment de càlcul superior a aproximadament 22.8 TFLOPS i una amplada de banda de memòria més gran per a tasques d'entrenament intensiu.

Quins entorns de programari hi ha disponibles en llogar aquesta GPU?

Les instàncies a ONIE inclouen accés SSH complet i plantilles preconfigurades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI. La targeta admet la capacitat de càlcul 12.0 de CUDA a l'arquitectura NVIDIA Blackwell.

Com funciona la facturació de la RTX 5060 Ti a ONIE?

La facturació es fa per hora, pel temps que la instància està activa. Pot connectar-se per SSH o iniciar una plantilla preparada i aturar la instància quan la seva tasca hagi finalitzat.

Llogui la RTX 5060 Ti per hores

Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.

Llogar RTX 5060 Ti

Totes les GPU →