NVIDIA L40S GPU bérlése óránként
Az NVIDIA L40S egy Ada Lovelace adatközponti GPU, amely felhőben bérelhető a ONIE szolgáltatásán. 45 GB VRAM-ot, körülbelül 73.3 TFLOPS egyszeres pontosságú számítási teljesítményt és körülbelül 626 GB/s memória-sávszélességet kínál, 350 W-os teljesítménykeret mellett. A 8.9-es CUDA számítási képességet támogató példány óránkénti számlázással kezeli az igényes AI-tanítási, következtetési és grafikai feladatokat.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a L40S
Nagy nyelvi modellek következtetési feladatai
Telepítsen kvantált vagy teljes pontosságú nyelvi modelleket olyan kész sablonokkal, mint a vLLM és az Ollama, a 45 GB-os memóriakapacitáson belül.
Generatív képfeldolgozási munkafolyamatok
Futtasson összetett diffúziós folyamatokat és kötegelt generálási feladatokat a ComfyUI-ban, az Ada Lovelace architektúra előnyeit kihasználva.
Mélytanulási finomhangolás
Finomhangoljon neurális hálózatokat és LoRA adaptereket PyTorch/CUDA környezetben, körülbelül 73.3 TFLOPS számítási teljesítménnyel.
Adatközponti grafika és renderelés
Futtasson fej nélküli renderelési és szimulációs feladatokat, amelyek előnyére válik az adatközponti GPU körülbelül 626 GB/s memória-sávszélessége.
Ez a megfelelő GPU Önnek?
Akkor válassza az L40S-t, ha a munkaterheléséhez 45 GB VRAM-ra és adatközponti megbízhatóságra van szükség, vagyis a hagyományos fogyasztói kártyáknál nagyobb teljesítményre. Ha a modellek kevesebb memóriában is elférnek, egy kisebb munkaállomás-GPU vagy fogyasztói GPU gazdaságosabb választás. A hatalmas, kvantálatlan alapmodellekhez viszont nagyobb memóriájú adatközponti GPU ajánlott.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Alkalmas az NVIDIA L40S LLM-következtetésre és finomhangolásra?
Igen. A 45 GB VRAM-mal és 8.9-es CUDA számítási képességgel rendelkező L40S kiválóan alkalmas közepes és nagy nyelvi modellek kiszolgálására, valamint paraméterhatékony finomhangolásra. Előre konfigurált vLLM, Ollama vagy PyTorch/CUDA sablonokkal indíthat példányokat.
Hogyan viszonyul az L40S a fogyasztói GPU-khoz és a nagyobb adatközponti GPU-khoz?
Az L40S több VRAM-ot kínál, mint a hagyományos Ada Lovelace fogyasztói kártyák, így nagyobb modell-súlyokat is képes betöltés nélkül tárolni. Memória-sávszélessége azonban alacsonyabb, mint a nagy memóriájú, kizárólag számítási feladatokra készült adatközponti GPU-ké, amelyek előnyösebbek a hatalmas, memóriaigényes tanítási feladatokhoz.
Hogyan csatlakozhatok az L40S-példányomhoz a ONIE szolgáltatásán, és hogyan konfigurálhatom azt?
A példány indulását követően teljes SSH-hozzáférést kap a környezetéhez. Előre elkészített sablonok közül is választhat, többek között PyTorch/CUDA, ComfyUI, vLLM és Ollama sablonok közül, hogy azonnal munkához láthasson.
Hogyan történik az L40S számlázása?
A ONIE minden L40S-bérlés esetén óránként számláz. Csak azért az időért fizet, amíg a példányt lefoglalja.
Bérelje a L40S-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
L40S bérlése