NVIDIA L4 GPU bérlése óránként
Az NVIDIA L4 egy Ada Lovelace architektúrájú adatközponti GPU, 22 GB VRAM-mal és 72 W-os fogyasztási kerettel. Egypontos lebegőpontos teljesítménye körülbelül 24,2 TFLOPS, memória-sávszélessége pedig körülbelül 221 GB/s; CUDA számítási képessége 8.9. Bérelje ki a ONIE kínálatából óradíjas számlázással, teljes SSH-hozzáféréssel, valamint PyTorch/CUDA, vLLM, Ollama és ComfyUI használatra kész sablonokkal.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a L4
Nyelvi modellek következtetési futtatása
Futtasson kvantált vagy kis és közepes méretű nyelvi modelleket a 22 GB-os VRAM-ban, előre konfigurált vLLM- vagy Ollama-sablonokkal.
Képgenerálási munkafolyamatok
Telepítsen kényelmesen elférő, 22 GB memóriát használó ComfyUI-folyamatokat, kihasználva az Ada Lovelace architektúra képességeit.
Könnyű finomhangolás
Hajtson végre paraméterhatékony finomhangolási és adaptertanítási feladatokat PyTorch/CUDA-környezetekben, nagy teljesítményű adatközponti kártya nélkül.
Kötegelt médiafeldolgozás és képfeldolgozás
Futtasson számítógépes látási következtetéseket és videós munkafolyamatokat egy 72 W-os adatközponti GPU-n.
Ez a megfelelő GPU Önnek?
Válassza az L4-et, ha 22 GB VRAM-ra és 8.9-es Ada Lovelace számítási képességre van szüksége következtetési vagy közepes igényű tanítási feladatokhoz. Váltson nagyobb adatközponti GPU-ra, ha a modelljei meghaladják a 22 GB-ot, vagy körülbelül 221 GB/s-nál nagyobb memória-sávszélességet igényelnek; egyszerű fejlesztési feladatokhoz, amelyek kevesebb memóriát igényelnek, válasszon kisebb kártyát.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Alkalmas az NVIDIA L4 LLM-következtetésre?
Igen, a 22 GB VRAM elegendő kis és közepes méretű nyelvi modellek vagy kvantált súlyok futtatásához. A ONIE kínálatából vLLM- vagy Ollama-sablont indíthat, így azonnal megkezdheti a modellek kiszolgálását.
Hogyan viszonyul az L4 a nagyobb adatközponti GPU-khoz?
Az L4-et a hatékony működésre tervezték: fogyasztása 72 W, egypontos számítási teljesítménye körülbelül 24,2 TFLOPS, memória-sávszélessége pedig körülbelül 221 GB/s. A nagyobb adatközponti GPU-k több VRAM-mal és nagyobb memória-sávszélességgel rendelkeznek az intenzív tanítási feladatokhoz, míg az L4 költséghatékony következtetésre és kisebb igényű feladatokra összpontosít.
Milyen szoftversablonok érhetők el az L4-hez a ONIE kínálatában?
Az L4-et PyTorch/CUDA, vLLM, Ollama és ComfyUI használatra kész sablonokkal telepítheti. Minden példány SSH-hozzáférést biztosít, így testre szabhatja a szoftverkörnyezetét és a 8.9-es CUDA számítási képességet igénybe vevő munkafolyamatait.
Hogyan történik az L4-példányok számlázása?
A ONIE óradíj alapján számlázza az L4-példányok használatát. Csak a példány aktív időszakáért fizet, így rövid kísérletekhez és folyamatos következtetési feladatokhoz egyaránt praktikus.
Bérelje a L4-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
L4 bérlése