Վարձակալեք NVIDIA L4 GPU ժամավճարով
NVIDIA L4-ը Ada Lovelace ճարտարապետության տվյալների կենտրոնի GPU է՝ 22 GB VRAM-ով և 72 W էներգասպառմամբ։ Այն ապահովում է մոտ 24,2 TFLOPS single-precision հաշվարկային արդյունավետություն և մոտ 221 GB/s հիշողության թողունակություն՝ CUDA compute capability 8.9-ով։ Վարձեք այն ONIE-ում ժամավճարային հաշվարկով, լրիվ SSH հասանելիությամբ և պատրաստի կաղապարներով PyTorch/CUDA, vLLM, Ollama և ComfyUI-ի համար։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար L4-ը
Լեզվական մոդելների ինֆերենս
Աշխատեցրեք քվանտացված կամ փոքր ու միջին չափի լեզվական մոդելներ 22 GB VRAM-ում՝ օգտագործելով նախապես կարգավորված vLLM կամ Ollama կաղապարները։
Պատկերների գեներացման աշխատանքային հոսքեր
Տեղակայեք ComfyUI խողովակաշարեր, որոնք հարմարավետ տեղավորվում են 22 GB հիշողության մեջ և օգտագործում են Ada Lovelace ճարտարապետության հնարավորությունները։
Թեթև նուրբ կարգավորում
Իրականացրեք պարամետրերով արդյունավետ նուրբ կարգավորման և ադապտերների ուսուցման աշխատանքներ PyTorch/CUDA միջավայրերում՝ առանց բարձր հզորության տվյալների կենտրոնի քարտի անհրաժեշտության։
Մեդիայի և տեսողության խմբային մշակում
Մշակեք համակարգչային տեսողության ինֆերենս և տեսաբեռնվածքներ 72 W հզորության տվյալների կենտրոնի GPU-ի վրա։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք L4-ը, երբ ձեզ անհրաժեշտ են 22 GB VRAM և Ada Lovelace՝ 8.9 compute capability ինֆերենսի կամ չափավոր ուսուցման աշխատանքների համար։ Անցեք ավելի մեծ տվյալների կենտրոնի GPU-ի, եթե ձեր մոդելները գերազանցում են 22 GB-ը կամ պահանջում են մոտ 221 GB/s-ից բարձր հիշողության թողունակություն, կամ ընտրեք ավելի փոքր քարտ հիմնական զարգացման համար, որին պակաս հիշողություն է պետք։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| L4 | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | — | |
| RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | — | Մանրամասներ |
| RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | — | Մանրամասներ |
| RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Հարմա՞ր է արդյոք NVIDIA L4-ը LLM ինֆերենսի համար։
Այո, 22 GB VRAM-ը թույլ է տալիս տեղակայել փոքր և միջին չափի լեզվական մոդելներ կամ քվանտացված կշիռներ։ ONIE-ում կարող եք գործարկել vLLM կամ Ollama կաղապարները և անմիջապես սկսել մոդելների սպասարկումը։
Ինչպե՞ս է L4-ը համեմատվում ավելի մեծ տվյալների կենտրոնի GPU-ների հետ։
L4-ը նախագծված է արդյունավետության համար՝ 72 W էներգասպառմամբ, մոտ 24,2 TFLOPS single-precision հաշվարկային արդյունավետությամբ և մոտ 221 GB/s հիշողության թողունակությամբ։ Ավելի մեծ տվյալների կենտրոնի GPU-ները ապահովում են ավելի շատ VRAM և բարձր հիշողության թողունակություն ծանր ուսուցման համար, մինչդեռ L4-ը կենտրոնացած է մատչելի ինֆերենսի և թեթև աշխատանքների վրա։
Ի՞նչ ծրագրային կաղապարներ են հասանելի L4-ի համար ONIE-ում։
Դուք կարող եք տեղակայել L4-ը PyTorch/CUDA, vLLM, Ollama և ComfyUI-ի պատրաստի կաղապարներով։ Բոլոր օրինակները ներառում են SSH հասանելիություն, որպեսզի կարողանաք կարգավորել ձեր ծրագրային միջավայրը և աշխատանքային հոսքերը CUDA compute capability 8.9-ով։
Ինչպե՞ս է աշխատում L4 օրինակների վճարումը։
ONIE-ը L4 օրինակների համար վճարում է ժամավճարային հաշվարկով։ Վճարում եք միայն այն ժամանակի համար, երբ ձեր օրինակը ակտիվ է, ինչը հարմար է ինչպես կարճ փորձերի, այնպես էլ շարունակական ինֆերենսի աշխատանքների համար։
Վարձակալեք L4-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել L4