GPU Cloud · NVIDIA · Ada Lovelace

Lloga GPU NVIDIA L4 per hora

La NVIDIA L4 és una GPU de centre de dades de l'arquitectura Ada Lovelace, equipada amb 22 GB de VRAM i un consum de 72 W. Ofereix aproximadament 24,2 TFLOPS de rendiment en coma flotant de precisió simple i uns 221 GB/s d'ample de banda de memòria, amb capacitat de còmput CUDA 8.9. Lloga-la a ONIE amb facturació per hora, accés SSH complet i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.

Especificacions

VRAM per GPU

22 GB

Arquitectura

NVIDIA Ada Lovelace

Capacitat de còmput

8.9

Còmput FP32

≈ 24.2 TFLOPS

Ample de banda de memòria

≈ 221 GB/s

Límit de potència

72 W

Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.

Configuracions disponibles

Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.

Carregant preus en directe…

Per a què serveix la L4

Inferència de models de llenguatge

Executi models de llenguatge quantitzats o petits i mitjans dins dels 22 GB de VRAM, amb plantilles preconfigurades de vLLM o Ollama.

Fluxos de generació d'imatges

Desplegui canonades de ComfyUI que hi caben còmodament dins dels 22 GB de memòria i aprofitin les característiques de l'arquitectura Ada Lovelace.

Ajust fi lleuger

Executi tasques d'ajust fi eficient en paràmetres i d'entrenament d'adaptadors en entorns PyTorch/CUDA, sense necessitar una targeta de centre de dades d'alt consum.

Processament massiu de mitjans i visió

Processi inferència de visió per computador i càrregues de treball de vídeo en una GPU de centre de dades de 72 W.

És la GPU adequada per a vostè?

Triï la L4 quan necessiti 22 GB de VRAM i capacitat de còmput Ada Lovelace 8.9 per a inferència o càrregues d'entrenament moderades. Passi a una GPU de centre de dades més gran si els seus models superen els 22 GB o requereixen un ample de banda de memòria superior a uns 221 GB/s, o bé trii una targeta més petita per a tasques bàsiques de desenvolupament que necessitin menys memòria.

Compari amb GPU similars

GPUVRAM per GPUArquitecturaCòmput FP32Des de / horaDetalls
L422 GBAda Lovelace≈ 24.2 TFLOPS—
RTX 5060 Ti16 GBBlackwell≈ 22.8 TFLOPS—Detalls
RTX 4060 Ti16 GBAda Lovelace≈ 21.6 TFLOPS—Detalls
RTX A400016 GBAmpere≈ 20.6 TFLOPS—Detalls

Preguntes freqüents

La NVIDIA L4 és adequada per a la inferència de LLM?

Sí, els 22 GB de VRAM permeten allotjar models de llenguatge petits i mitjans o pesos quantitzats. Pot iniciar plantilles de vLLM o Ollama a ONIE per començar a servir models de seguida.

Com es compara la L4 amb GPU de centre de dades més grans?

La L4 està dissenyada per a l'eficiència, amb un consum de 72 W, uns 24,2 TFLOPS de còmput en coma flotant de precisió simple i uns 221 GB/s d'ample de banda de memòria. Les GPU de centre de dades més grans ofereixen més VRAM i un ample de banda de memòria superior per a l'entrenament intensiu, mentre que la L4 se centra en la inferència rendible i en càrregues lleugeres.

Quines plantilles de programari estan disponibles per a la L4 a ONIE?

Pot desplegar la L4 amb plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI. Totes les instàncies inclouen accés SSH perquè pugui personalitzar el seu entorn de programari i els fluxos de treball amb capacitat de còmput CUDA 8.9.

Com funciona la facturació de les instàncies L4?

ONIE factura les instàncies L4 per hora. Només paga pel temps que la seva instància està activa, cosa que la fa pràctica tant per a experiments curts com per a tasques d'inferència contínues.

Llogui la L4 per hores

Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.

Llogar L4

Totes les GPU →