Lloga GPU NVIDIA RTX 3090 Ti per hora
La NVIDIA RTX 3090 Ti és una GPU de consum de l'arquitectura Ampere, equipada amb 24 GB de VRAM i un TDP de 450 W. Ofereix uns 36,4 TFLOPS de càlcul en precisió simple i uns 865 GB/s d'ample de banda de memòria, amb suport per a la capacitat de còmput CUDA 8.6. A ONIE, pot llogar aquest maquinari amb facturació per hora, accés SSH directe i plantilles de programari preconfigurades.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la RTX 3090 Ti
Inferència de LLM en local
Executi models de llenguatge quantitzats que caben còmodament dins de 24 GB de VRAM, amb plantilles preparades de vLLM o Ollama.
Fluxos de treball de generació d'imatges
Executi pipelines de difusió complexos i grafs de nodes personalitzats amb la plantilla de ComfyUI, aprofitant uns 865 GB/s d'ample de banda de memòria.
Prototipatge d'aprenentatge profund
Desenvolupi i provi xarxes neuronals amb PyTorch, amb capacitat de còmput CUDA 8.6 i uns 36,4 TFLOPS de càlcul en precisió simple.
Ajust fi amb LoRA
Entreni adaptadors lleugers i ajusti models de visió o de text de mida mitjana sense superar el límit de memòria de 24 GB.
És la GPU adequada per a vostè?
La RTX 3090 Ti és una opció pràctica per a desenvolupadors i investigadors que necessiten 24 GB de VRAM en una targeta de consum Ampere per a tasques d'inferència o d'entrenament moderat. Triï una GPU amb menys memòria si només executa models petits, o bé una GPU de estació de treball o de centre de dades si les seves càrregues de treball requereixen més de 24 GB de VRAM o funcionalitats d'arquitectura més recents.
Compari amb GPU similars
Preguntes freqüents
La RTX 3090 Ti és adequada per a la inferència de LLM i la generació d'imatges?
Sí, els seus 24 GB de VRAM i uns 865 GB/s d'ample de banda de memòria la fan molt adequada per allotjar models de llenguatge de mida mitjana o quantitzats i per executar fluxos de treball de generació d'imatges. Pot iniciar de seguida les plantilles preconfigurades de vLLM, Ollama o ComfyUI.
Com es compara la RTX 3090 Ti amb GPU de consum o d'estació de treball més noves?
Com a GPU de consum de la generació Ampere amb capacitat de còmput 8.6, ofereix la mateixa capacitat de 24 GB de VRAM que les targetes de consum d'alt rendiment més noves, tot i que les arquitectures més recents solen proporcionar més rendiment de càlcul i més eficiència energètica que el seu disseny de 450 W. Si la seva càrrega de treball està limitada estrictament per la memòria i cap dins de 24 GB, continua sent una opció capaç.
Com em connecto a la meva instància de RTX 3090 Ti a ONIE?
Quan la seva instància estigui en execució, pot connectar-se directament per SSH per tenir control complet de la línia d'ordres. També pot desplegar plantilles preparades per a PyTorch amb CUDA, vLLM, Ollama o ComfyUI.
Com funciona la facturació per llogar aquesta GPU?
Les instàncies a ONIE utilitzen facturació per hora, de manera que només paga pel temps en què l'entorn de la RTX 3090 Ti està actiu.
Llogui la RTX 3090 Ti per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar RTX 3090 Ti