Lloga GPU NVIDIA RTX 3090 per hora
La NVIDIA RTX 3090 és una GPU de consum basada en l'arquitectura Ampere, amb 24 GB de VRAM i capacitat de còmput 8.6. Ofereix uns 35,4 TFLOPS de còmput en precisió simple estàndard i uns 805 GB/s d'ample de banda de memòria, amb una potència nominal de 350 W. Pot llogar-la a ONIE amb facturació per hora, accés SSH complet i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la RTX 3090
Inferència de LLM a escala local
Executi models de llenguatge quantitzats o de mida mitjana amb 24 GB de VRAM, utilitzant les plantilles de vLLM o Ollama ja configurades.
Fluxos de treball de generació d'imatges
Desplegui ComfyUI per generar imatges d'alta resolució i executar pipelines de difusió personalitzats sense arribar als límits de memòria de les targetes de consum estàndard.
Ajust fi i entrenament de models
Utilitzi la plantilla de PyTorch/CUDA per ajustar amb precisió xarxes neuronals que càpiguen en 24 GB de memòria i aprofitin uns 805 GB/s d'ample de banda de memòria.
Còmput CUDA general
Executi càrregues de treball personalitzades compilades per a la capacitat de còmput 8.6, amb uns 35,4 TFLOPS de rendiment en precisió simple.
És la GPU adequada per a vostè?
La RTX 3090 és adequada per a desenvolupadors i investigadors que necessiten 24 GB de VRAM per a tasques intensives en memòria en una targeta Ampere de gamma de consum. Triï una GPU més petita si necessita inferència lleugera amb menys requisits de memòria, o bé una GPU de estació de treball o de centre de dades si els seus models superen els 24 GB de VRAM o requereixen característiques d'una arquitectura més recent.
Compari amb GPU similars
Preguntes freqüents
La RTX 3090 és adequada per a la inferència i l'ajust fi de LLM?
Sí, els seus 24 GB de VRAM i uns 805 GB/s d'ample de banda de memòria la fan capaç d'executar i ajustar amb precisió molts models de llenguatge de pesos oberts. Pot iniciar les plantilles de vLLM, Ollama o PyTorch/CUDA directament a ONIE per començar a treballar de seguida.
Com es compara la RTX 3090 amb GPUs més petites o més grans?
Amb 24 GB de VRAM, la RTX 3090 admet significativament més pesos de model i mides de lot més grans que les targetes de consum de gamma inferior. Tanmateix, si la seva càrrega de treball requereix més de 24 GB de memòria o més de uns 35,4 TFLOPS de còmput en precisió simple, hauria de considerar una generació més recent o una GPU de gamma de centre de dades.
Com em connecto a la meva instància de RTX 3090 i quin programari inclou?
Pot connectar-se directament a la seva instància mitjançant accés SSH. ONIE ofereix plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI perquè no hagi de configurar la pila de programari manualment.
Com funciona la facturació de la RTX 3090 a ONIE?
Les instàncies es facturen per hora. Només paga pel temps en què la seva instància de GPU està activa.
Llogui la RTX 3090 per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar RTX 3090