Վարձակալեք NVIDIA A40 GPU ժամավճարով
NVIDIA A40-ը Ampere ճարտարապետությամբ կառուցված datacenter GPU է, որի compute capability-ն 8.6 է, իսկ VRAM-ը՝ 45 GB։ ONIE-ում այն ապահովում է մոտ 29.9 TFLOPS single-precision արտադրողականություն և մոտ 536 GB/s հիշողության թողունակություն 300 W հզորության շրջանակում։ Կարող եք այն տեղակայել ժամային վճարումով, լրիվ SSH մուտքով և պատրաստի կաղապարներով, որոնք ներառում են PyTorch/CUDA, vLLM, Ollama և ComfyUI։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար A40-ը
Մեծ լեզվական մոդելների ինֆերենս
Գործարկեք մինչև 45 GB հիշողություն պահանջող մոդելներ՝ օգտագործելով նախապես կարգավորված vLLM կամ Ollama կաղապարները։
Deep Learning Fine-Tuning
Կարգավորեք նեյրոնային ցանցերը PyTorch/CUDA-ում՝ օգտվելով բավարար VRAM-ից մեծ batch size-երի և կշիռների համար։
Generative Image Workflows
Իրականացրեք բարդ diffusion pipeline-ներ և միաժամանակ պահեք մի քանի checkpoint հիշողության մեջ՝ օգտագործելով ComfyUI-ը։
Datacenter Compute Tasks
Օգտագործեք մոտ 29.9 TFLOPS single-precision հաշվարկային արտադրողականություն և մոտ 536 GB/s հիշողության թողունակություն սիմուլյացիայի և rendering աշխատանքների համար։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք A40-ը, երբ ձեր աշխատանքին անհրաժեշտ է 45 GB VRAM datacenter Ampere ճարտարապետության վրա, ինչը գերազանցում է սովորական սպառողական քարտերի հիշողության չափը։ Ընտրեք ավելի փոքր սպառողական քարտ, եթե ձեր մոդելները տեղավորվում են ավելի քիչ հիշողության մեջ, կամ անցեք ավելի բարձր թողունակությամբ datacenter GPU-ի, եթե ձեր training աշխատանքները մեծապես սահմանափակվում են հիշողության թողունակությամբ։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| A40 | 45 GB | Ampere | ≈ 29.9 TFLOPS | — | |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Մանրամասներ |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Մանրամասներ |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Արդյո՞ք NVIDIA A40-ը հարմար է LLM inference-ի և fine-tuning-ի համար։
Այո, 45 GB VRAM հզորությունը դարձնում է A40-ը հարմար միջին և մեծ չափի լեզվական մոդելների հոստինգի և parameter-efficient fine-tuning-ի համար։ Դուք կարող եք անմիջապես ONIE-ում գործարկել vLLM, Ollama կամ PyTorch/CUDA կաղապարները և սկսել աշխատանքը։
Ինչպե՞ս է A40-ը համեմատվում ավելի փոքր սպառողական GPU-ների կամ ավելի մեծ datacenter GPU-ների հետ։
A40-ը ապահովում է 45 GB VRAM՝ տալով ավելի մեծ հիշողության ռեզերվ, քան սովորական սպառողական GPU-ները, հիշողությամբ սահմանափակ աշխատանքների համար։ Սակայն դրա մոտ 536 GB/s հիշողության թողունակությունը ցածր է HBM հիշողություն օգտագործող ավելի բարձր մակարդակի datacenter GPU-ների թողունակությունից։
Ի՞նչ ծրագրային միջավայրեր են հասանելի A40-ի համար ONIE-ում։
A40-ը աջակցում է CUDA compute capability 8.6-ին և կարող է տեղակայվել PyTorch/CUDA, vLLM, Ollama և ComfyUI պատրաստի կաղապարներով։ Լրիվ SSH մուտքը ներառված է, որպեսզի կարողանաք անհրաժեշտության դեպքում հարմարեցնել ձեր ծրագրային փաթեթը։
Ինչպե՞ս է աշխատում A40 instance-ների վճարումը։
ONIE-ը բոլոր A40 վարձակալությունների համար օգտագործում է ժամային վճարում։ Դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր instance-ն ակտիվ է, ինչը գործնական է և՛ կարճ փորձարկումների, և՛ երկար production աշխատանքների համար։
Վարձակալեք A40-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել A40