Lloga GPU NVIDIA L40S per hora
La NVIDIA L40S és una GPU de centre de dades Ada Lovelace disponible per al lloguer al nuvol a ONIE. Ofereix 45 GB de VRAM, uns 73,3 TFLOPS de còmput en precisió simple i un ample de banda de memòria d'uns 626 GB/s, dins d'un consum de 350 W. Compatible amb CUDA, amb capacitat de còmput 8.9, aquesta instància permet executar càrregues exigents d'entrenament i inferència d'IA, així com de gràfics, amb facturació per hora.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la L40S
Inferència de models de llenguatge grans
Desplegue models de llenguatge quantitzats o en precisió completa amb plantilles preparades com vLLM i Ollama, dins de la capacitat de memòria de 45 GB.
Fluxos de treball de generació d'imatges
Executi pipelines de difusió complexos i tasques de generació per lots a ComfyUI, aprofitant l'arquitectura Ada Lovelace.
Ajust fi d'aprenentatge profund
Ajusti amb precisió xarxes neuronals i adaptadors LoRA en entorns PyTorch/CUDA, utilitzant uns 73,3 TFLOPS de còmput.
Gràfics i renderitzat de centre de dades
Executi tasques de renderitzat i simulació sense interfície gràfica que es beneficien d'una GPU de centre de dades amb uns 626 GB/s d'ample de banda de memòria.
És la GPU adequada per a vostè?
Triï la L40S quan la seva càrrega de treball necessiti 45 GB de VRAM i la fiabilitat d'un centre de dades, per anar més enllà de les targetes de consum habituals. Si els seus models caben en menys memòria, una targeta de estació de treball o de consum més petita és més econòmica, mentre que els models fundacionals massius sense quantitzar requereixen una GPU de centre de dades amb més memòria.
Compari amb GPU similars
Preguntes freqüents
La NVIDIA L40S és adequada per a la inferència i l'ajust fi de LLM?
Sí. Amb 45 GB de VRAM i capacitat de còmput CUDA 8.9, la L40S és molt adequada per servir models de llenguatge de mida mitjana a gran i per executar ajust fi eficient en paràmetres. Pot iniciar instàncies amb plantilles preconfigurades de vLLM, Ollama o PyTorch/CUDA.
Com es compara la L40S amb les GPU de consum o les GPU de centre de dades més grans?
La L40S ofereix més VRAM que les targetes de consum Ada Lovelace habituals, cosa que li permet allotjar pesos de models més grans sense descarregar-los. Tanmateix, té un ample de banda de memòria inferior al de les GPU de centre de dades només de càlcul amb més memòria, que són preferibles per a entrenaments massius limitats per memòria.
Com em connecto i configuro la meva instància L40S a ONIE?
Obté accés SSH complet al seu entorn en el moment que la instància arrenca. També pot seleccionar plantilles preparades, com PyTorch/CUDA, ComfyUI, vLLM i Ollama, per començar a treballar de seguida.
Com funciona la facturació de la L40S?
ONIE aplica facturació per hora a tots els lloguers de L40S. Només paga pel temps que la seva instància està assignada.
Llogui la L40S per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar L40S