GPU Cloud · NVIDIA · Turing

Lloga GPU NVIDIA RTX 2070S per hora

La NVIDIA RTX 2070S és una GPU de segment de consum basada en l'arquitectura Turing, amb 8 GB de VRAM i capacitat de còmput 7.5. A les instàncies de ONIE, ofereix uns 8,8 TFLOPS de rendiment en coma flotant estàndard i uns 366 GB/s d'ample de banda de memòria, dins d'un consum de 210 W. Es pot desplegar amb facturació per hora, accés SSH complet i plantilles preparades, com ara PyTorch/CUDA, vLLM, Ollama i ComfyUI.

Especificacions

VRAM per GPU

8 GB

Arquitectura

NVIDIA Turing

Capacitat de còmput

7.5

Còmput FP32

≈ 8.8 TFLOPS

Ample de banda de memòria

≈ 366 GB/s

Límit de potència

210 W

Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.

Configuracions disponibles

Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.

Carregant preus en directe…

Per a què serveix la RTX 2070S

Inferència compacta de LLM

Executeu petits models de llenguatge quantitzats amb les plantilles d'Ollama o vLLM, dins de la capacitat de 8 GB de VRAM.

Prototipatge i depuració amb PyTorch

Desenvolupeu i proveu codi d'aprenentatge profund en una GPU Turing amb capacitat de còmput 7.5, abans d'escalar a maquinari més gran.

Generació d'imatges lleugera

Genereu imatges amb ComfyUI utilitzant pipelines de difusió estàndard que caben còmodament dins de 8 GB de memòria.

Càrregues de còmput amb GPU

Executeu aplicacions CUDA personalitzades aprofitant uns 8,8 TFLOPS de còmput en precisió simple i uns 366 GB/s d'ample de banda de memòria.

És la GPU adequada per a vostè?

Trieu la RTX 2070S per al desenvolupament, la depuració i tasques d'inferència lleugeres que caben dins de 8 GB de VRAM. Passeu a una GPU amb més memòria i més capacitat de còmput per entrenar models grans, o escolliu una targeta de consum de menys consum per fer proves bàsiques de scripts.

Compari amb GPU similars

GPUVRAM per GPUArquitecturaCòmput FP32Des de / horaDetalls
RTX 2070S8 GBTuring≈ 8.8 TFLOPS—
GTX 10808 GBPascal≈ 7.8 TFLOPS—Detalls
Q RTX 40008 GBTuring≈ 7.7 TFLOPS—Detalls
RTX 20708 GBTuring≈ 7.7 TFLOPS—Detalls

Preguntes freqüents

La RTX 2070S és adequada per a la inferència o el fine-tuning de LLM?

Amb 8 GB de VRAM i uns 366 GB/s d'ample de banda de memòria, la RTX 2070S gestiona la inferència de petits models de llenguatge quantitzats amb Ollama o vLLM. El fine-tuning complet o l'execució de models més grans requereixen una GPU amb més VRAM.

Puc utilitzar aquesta GPU per generar imatges amb ComfyUI?

Sí, ONIE ofereix una plantilla de ComfyUI preparada que funciona a la RTX 2070S. Els seus 8 GB de VRAM admeten fluxos de difusió estàndard, tot i que les pipelines més pesades amb diversos control nets es beneficiaran d'una GPU amb més memòria.

Com afecta l'arquitectura Turing a la compatibilitat del programari?

La RTX 2070S admet la capacitat de còmput 7.5 de CUDA, que és compatible amb les plantilles estàndard de PyTorch/CUDA. Tanmateix, les càrregues de treball que requereixin funcions arquitectòniques més noves de generacions posteriors s'han de desplegar en una GPU de característiques més recents.

Com em connecto i com funciona la facturació a ONIE?

Les instàncies es facturen per hora durant el temps que la màquina està activa. Us podeu connectar directament per SSH o iniciar les plantilles preconfigurades de PyTorch/CUDA, vLLM, Ollama i ComfyUI.

Llogui la RTX 2070S per hores

Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.

Llogar RTX 2070S

Totes les GPU →