GPU Cloud · NVIDIA · Ampere

Lloga GPU NVIDIA RTX 3080 Ti per hora

La NVIDIA RTX 3080 Ti és una GPU de consum de l'arquitectura Ampere amb 12 GB de VRAM i un TDP de 350 W. A ONIE, ofereix uns 35.1 TFLOPS de còmput de coma flotant estàndard i un ample de banda de memòria d'uns 787 GB/s. Amb una capacitat de còmput CUDA 8.6, aquesta GPU gestiona càrregues de treball intermèdies d'aprenentatge automàtic, inferència i renderització creativa.

Especificacions

VRAM per GPU

12 GB

Arquitectura

NVIDIA Ampere

Capacitat de còmput

8.6

Còmput FP32

≈ 35.1 TFLOPS

Ample de banda de memòria

≈ 787 GB/s

Límit de potència

350 W

Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.

Configuracions disponibles

Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.

Carregant preus en directe…

Per a què serveix la RTX 3080 Ti

Inferència de LLM quantitzats

Executeu models de llenguatge grans compactes i quantitzats dins del pressupost de 12 GB de VRAM, amb plantilles preparades com Ollama o vLLM.

Generació d'imatges amb ComfyUI

Genereu imatges i proveu pipelines de difusió amb la plantilla ComfyUI, aprofitant uns 787 GB/s d'ample de banda de memòria per al processament de prompts.

Prototipatge de models amb PyTorch

Desenvolupeu, depureu i entreneu xarxes neuronals de mida petita a mitjana amb PyTorch i CUDA en una GPU Ampere amb capacitat de còmput 8.6.

Renderització accelerada per GPU

Aprofiteu uns 35.1 TFLOPS de rendiment de còmput per renderitzar escenes i coure textures que caben en una memòria de 12 GB.

És la GPU adequada per a vostè?

La RTX 3080 Ti és adequada per a desenvolupadors i creadors que necessiten un rendiment de còmput Ampere potent per a càrregues de treball que hi caben còmodament dins de 12 GB de VRAM. Trieu una GPU de consum més petita per a scripts bàsics o inferència lleugera, o passeu a una GPU amb més VRAM si voleu fer fine-tuning de models grans o carregar pesos sense quantitzar.

Compari amb GPU similars

GPUVRAM per GPUArquitecturaCòmput FP32Des de / horaDetalls
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—Detalls
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Detalls
RTX 308010 GBAmpere≈ 29.5 TFLOPS—Detalls

Preguntes freqüents

La RTX 3080 Ti és adequada per a la inferència i el fine-tuning de LLM?

Amb 12 GB de VRAM i uns 787 GB/s d'ample de banda de memòria, és molt adequada per executar models de llenguatge més petits o quantitzats mitjançant Ollama o vLLM. Per al fine-tuning complet o per executar models grans sense quantitzar, es recomana una GPU amb més capacitat de VRAM.

Com es compara la RTX 3080 Ti amb altres GPU de consum Ampere?

La RTX 3080 Ti se situa entre la RTX 3080 estàndard i les targetes de consum amb més memòria de la gamma Ampere, i ofereix 12 GB de VRAM i uns 35.1 TFLOPS de còmput. Si la vostra càrrega de treball està limitada pel còmput i hi cap en 12 GB, ofereix un rendiment sòlid sense haver de passar a un nivell amb més memòria.

Com em connecto a la instància de RTX 3080 Ti a ONIE?

Podeu connectar-vos directament mitjançant accés SSH quan la vostra instància estigui en funcionament. ONIE també ofereix plantilles preconfigurades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI perquè pugueu començar a treballar de seguida.

Com funciona la facturació d'aquesta GPU?

Les instàncies a ONIE es facturen per hora. Només es factura el temps en què la vostra instància de RTX 3080 Ti està activa.

Llogui la RTX 3080 Ti per hores

Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.

Llogar RTX 3080 Ti

Totes les GPU →