Lloga GPU NVIDIA L4 per hora
La NVIDIA L4 és una GPU de centre de dades de l'arquitectura Ada Lovelace, equipada amb 22 GB de VRAM i un consum de 72 W. Ofereix aproximadament 24,2 TFLOPS de rendiment en coma flotant de precisió simple i uns 221 GB/s d'ample de banda de memòria, amb capacitat de còmput CUDA 8.9. Lloga-la a ONIE amb facturació per hora, accés SSH complet i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la L4
Inferència de models de llenguatge
Executi models de llenguatge quantitzats o petits i mitjans dins dels 22 GB de VRAM, amb plantilles preconfigurades de vLLM o Ollama.
Fluxos de generació d'imatges
Desplegui canonades de ComfyUI que hi caben còmodament dins dels 22 GB de memòria i aprofitin les característiques de l'arquitectura Ada Lovelace.
Ajust fi lleuger
Executi tasques d'ajust fi eficient en paràmetres i d'entrenament d'adaptadors en entorns PyTorch/CUDA, sense necessitar una targeta de centre de dades d'alt consum.
Processament massiu de mitjans i visió
Processi inferència de visió per computador i càrregues de treball de vídeo en una GPU de centre de dades de 72 W.
És la GPU adequada per a vostè?
Triï la L4 quan necessiti 22 GB de VRAM i capacitat de còmput Ada Lovelace 8.9 per a inferència o càrregues d'entrenament moderades. Passi a una GPU de centre de dades més gran si els seus models superen els 22 GB o requereixen un ample de banda de memòria superior a uns 221 GB/s, o bé trii una targeta més petita per a tasques bàsiques de desenvolupament que necessitin menys memòria.
Compari amb GPU similars
Preguntes freqüents
La NVIDIA L4 és adequada per a la inferència de LLM?
Sí, els 22 GB de VRAM permeten allotjar models de llenguatge petits i mitjans o pesos quantitzats. Pot iniciar plantilles de vLLM o Ollama a ONIE per començar a servir models de seguida.
Com es compara la L4 amb GPU de centre de dades més grans?
La L4 està dissenyada per a l'eficiència, amb un consum de 72 W, uns 24,2 TFLOPS de còmput en coma flotant de precisió simple i uns 221 GB/s d'ample de banda de memòria. Les GPU de centre de dades més grans ofereixen més VRAM i un ample de banda de memòria superior per a l'entrenament intensiu, mentre que la L4 se centra en la inferència rendible i en càrregues lleugeres.
Quines plantilles de programari estan disponibles per a la L4 a ONIE?
Pot desplegar la L4 amb plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI. Totes les instàncies inclouen accés SSH perquè pugui personalitzar el seu entorn de programari i els fluxos de treball amb capacitat de còmput CUDA 8.9.
Com funciona la facturació de les instàncies L4?
ONIE factura les instàncies L4 per hora. Només paga pel temps que la seva instància està activa, cosa que la fa pràctica tant per a experiments curts com per a tasques d'inferència contínues.
Llogui la L4 per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar L4