Վարձակալեք NVIDIA L40S GPU ժամավճարով
NVIDIA L40S-ը Ada Lovelace տվյալների կենտրոնի GPU է, որը հասանելի է ONIE-ի վրա վարձակալության համար։ Այն ապահովում է 45 ԳԲ VRAM, մոտ 73,3 TFLOPS միակ ճշգրտության հաշվողական հզորություն և մոտ 626 ԳԲ/վ հիշողության թողունակություն՝ 350 Վտ հզորության սահմաններում։ Աջակցելով CUDA-ի հաշվողական հնարավորության 8.9 մակարդակը՝ այս ինստանսը բավարարում է պահանջկոտ AI ուսուցման, ինֆերենսի և գրաֆիկական աշխատանքները՝ ժամավճարային վճարումով։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար L40S-ը
Մեծ լեզվական մոդելների ինֆերենս
Տեղակայեք քվանտացված կամ լրիվ ճշգրտության լեզվական մոդելներ՝ օգտագործելով պատրաստի կաղապարներ, ինչպիսիք են vLLM-ը և Ollama-ն, 45 ԳԲ հիշողության սահմաններում։
Գեներատիվ պատկերների աշխատանքային հոսքեր
Գործարկեք բարդ դիֆուզիոն խողովակաշարեր և խմբաքանակային գեներացման առաջադրանքներ ComfyUI-ում՝ օգտագործելով Ada Lovelace ճարտարապետության առավելությունները։
Խորը ուսուցման նուրբ կարգավորում
Նուրբ կարգավորեք նեյրոնային ցանցեր և LoRA ադապտերներ PyTorch/CUDA միջավայրերում՝ օգտագործելով մոտ 73,3 TFLOPS հաշվողական հզորություն։
Տվյալների կենտրոնի գրաֆիկա և ռենդերինգ
Կատարեք headless ռենդերինգ և մոդելավորման առաջադրանքներ, որոնք օգտվում են տվյալների կենտրոնի GPU-ից՝ մոտ 626 ԳԲ/վ հիշողության թողունակությամբ։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք L40S-ը, երբ ձեր աշխատանքին անհրաժեշտ է 45 ԳԲ VRAM և տվյալների կենտրոնի հուսալիություն՝ սովորական սպառողական քարտերից վեր։ Եթե ձեր մոդելները տեղավորվում են ավելի քիչ հիշողության մեջ, ավելի տնտեսավետ է փոքր աշխատանքային կամ սպառողական GPU-ն, իսկ չքվանտացված հսկայական հիմնարար մոդելների դեպքում նպատակահարմար է ավելի մեծ հիշողությամբ տվյալների կենտրոնի GPU-ն։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Մանրամասներ |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Մանրամասներ |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Արդյո՞ք NVIDIA L40S-ը հարմար է LLM ինֆերենսի և նուրբ կարգավորման համար։
Այո, 45 ԳԲ VRAM-ով և CUDA հաշվողական հնարավորության 8.9 մակարդակով L40S-ը հարմար է միջին և մեծ լեզվական մոդելների սպասարկման և պարամետրային արդյունավետ նուրբ կարգավորման համար։ Դուք կարող եք գործարկել ինստանսներ նախապես կարգավորված vLLM, Ollama կամ PyTorch/CUDA կաղապարներով։
Ինչպե՞ս է L40S-ը համեմատվում սպառողական կամ ավելի մեծ տվյալների կենտրոնի GPU-ների հետ։
L40S-ը ավելի շատ VRAM է առաջարկում, քան սովորական սպառողական Ada Lovelace քարտերը, ինչը թույլ է տալիս պահել ավելի մեծ մոդելի կշիռները՝ առանց օֆլոդինգի։ Սակայն դրա հիշողության թողունակությունը ցածր է, քան մեծ հիշողությամբ, միայն հաշվողական տվյալների կենտրոնի GPU-ներինը, որոնք նախընտրելի են հսկայական հիշողության կախյալ ուսուցման աշխատանքների համար։
Ինչպե՞ս միանալ և կարգավորել իմ L40S ինստանսը ONIE-ի վրա։
Ինստանսը բեռնվելուց անմիջապես հետո ստանում եք լրիվ SSH մուտք դեպի ձեր միջավայրը։ Դուք կարող եք նաև ընտրել պատրաստի կաղապարներ, ներառյալ PyTorch/CUDA, ComfyUI, vLLM և Ollama, որպեսզի անմիջապես սկսեք աշխատել։
Ինչպե՞ս է աշխատում L40S-ի վճարումը։
ONIE-ը բոլոր L40S վարձակալությունների համար օգտագործում է ժամավճարային վճարում։ Դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր ինստանսը հատկացված է։
Վարձակալեք L40S-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել L40S