Huur NVIDIA L40S GPU per uur
Die NVIDIA L40S is 'n Ada Lovelace-datasentrum-GPU wat vir wolkhuur op ONIE beskikbaar is. Dit bied 45 GB VRAM, ongeveer 73,3 TFLOPS enkelpresisie-rekenkrag en 'n geheuebandwydte van ongeveer 626 GB/s binne 'n 350 W-kragvenster. Die instansie ondersteun CUDA-rekenvermoë 8.9 en hanteer veeleisende KI-opleiding, -gevolgtrekking en grafiese werkladings met faktuur per uur.
Spesifikasies
VRAM per GPU
Argitektuur
Rekenvermoë-vlak
FP32-rekenkrag
Geheuebandwydte
Kraglimiet
Waardes wat deur die infrastruktuurverskaffer vir masjiene wat tans gelys is, verskaf word; werklike werkverrigting wissel van masjien tot masjien.
Beskikbare konfigurasies
Lewendige voorraad en pryse, voortdurend opgedateer. Die finale prys word bevestig voordat jy bestel.
Lewendige pryse word gelaai…
Waarvoor die L40S goed is
Gevolgtrekking met groot taalmodelle
Ontplooi gekwantiseerde of volpresisie-taalmodelle met gereedgemaakte sjablone soos vLLM en Ollama binne die geheuekapasiteit van 45 GB.
Generatiewe beeldwerkvloeie
Voer komplekse diffusie-pyplyne en groepsgenereringstake in ComfyUI uit wat voordeel trek uit die Ada Lovelace-argitektuur.
Diepleer-finetuning
Finetune neurale netwerke en LoRA-adapters in PyTorch/CUDA-omgewings deur gebruik te maak van ongeveer 73,3 TFLOPS rekenkrag.
Datasentrum-grafika en -weergawe
Voer koppvrye weergawe- en simulasietake uit wat baat by 'n datasentrum-GPU met ongeveer 626 GB/s geheuebandwydte.
Is dit die regte GPU vir jou?
Kies die L40S wanneer jou werklading 45 GB VRAM en datasentrum-betroubaarheid vereis, en jy verder gaan as standaard verbruikerskaarte. As jou modelle in minder geheue pas, is 'n kleiner werkstasie- of verbruikers-GPU meer ekonomies, terwyl massiewe ongekwantiseerde grondmodelle 'n datasentrum-GPU met groter geheue vereis.
Vergelyk met soortgelyke GPU's
| GPU | VRAM per GPU | Argitektuur | FP32-rekenkrag | Vanaf / uur | Besonderhede |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Besonderhede |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Besonderhede |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Besonderhede |
Gereelde vrae
Is die NVIDIA L40S geskik vir LLM-gevolgtrekking en -finetuning?
Ja, met 45 GB VRAM en CUDA-rekenvermoë 8.9 is die L40S goed geskik om medium tot groot taalmodelle te bedien en parameter-doeltreffende finetuning uit te voer. Jy kan instansies begin met vooraf gekonfigureerde vLLM-, Ollama- of PyTorch/CUDA-sjablone.
Hoe vergelyk die L40S met verbruikers-GPU's of groter datasentrum-GPU's?
Die L40S bied meer VRAM as standaard verbruiker-Ada Lovelace-kaarte, wat dit in staat stel om groter modelgewigte te hou sonder offloading. Dit het egter laer geheuebandwydte as hoëgeheue-datasentrum-GPU's wat slegs vir berekening bedoel is, en hulle is verkieslik vir massiewe geheuegebonde opleidingstake.
Hoe koppel ek aan my L40S-instansie op ONIE en stel dit op?
Jy kry volledige SSH-toegang tot jou omgewing sodra die instansie begin. Jy kan ook gereedgemaakte sjablone kies, insluitend PyTorch/CUDA, ComfyUI, vLLM en Ollama, om dadelik te begin werk.
Hoe werk faktuur vir die L40S?
ONIE gebruik faktuur per uur vir alle L40S-huur. Jy betaal slegs vir die tyd wat jou instansie toegewys is.
Huur die L40S per uur
Skep 'n rekening, kies 'n konfigurasie en koppel oor SSH. Fakturering stop wanneer jy die GPU uitvee.
Huur L40S