Վարձակալեք NVIDIA A100 PCIE GPU ժամավճարով
NVIDIA A100 PCIE-ը Ampere ճարտարապետությամբ կառուցված datacenter GPU է, որն ունի 40 ԳԲ VRAM և 250 Վտ էներգասպառում։ Այն ապահովում է մոտ 15.6 TFLOPS ստանդարտ լողակետային հաշվարկային արդյունավետություն և մոտ 1313 ԳԲ/վ հիշողության թողունակություն՝ աջակցելով CUDA compute capability 8.0-ին։ ONIE-ում այս սարքավորումը կարող եք վարձակալել ժամավճարով, SSH մուտքով և պատրաստի կաղապարներով PyTorch/CUDA, vLLM, Ollama և ComfyUI-ի համար։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար A100 PCIE-ը
Մեծ լեզվական մոդելների ինֆերենս
Մոդելներ սպասարկեք vLLM-ի կամ Ollama-ի միջոցով՝ օգտագործելով 40 ԳԲ VRAM հզորությունը և մոտ 1313 ԳԲ/վ հիշողության թողունակությունը տոկենների generation-ի համար։
Խորը ուսուցման ճշգրտում (fine-tuning)
Գործարկեք ուսուցման և ճշգրտման աշխատանքներ PyTorch/CUDA-ում՝ Ampere datacenter ճարտարապետության վրա՝ compute capability 8.0-ով։
Բարձր թույլատրելիության պատկերների գեներացում
Կատարեք բարդ diffusion աշխատանքային հոսքեր ComfyUI-ում, որոնք պահանջում են ավելի շատ հիշողություն, քան սպառողական քարտերը տրամադրում են։
Գիտական և տվյալների հաշվարկներ
Մշակեք հիշողությունների մեծ ծավալ պահանջող մոդելավորումներ և տվյալների վերլուծության առաջադրանքներ՝ օգտագործելով մոտ 15.6 TFLOPS հաշվարկային արդյունավետություն։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք A100 PCIE 40 ԳԲ, երբ ձեր աշխատանքները գերազանցում են սպառողական GPU-ների հիշողության սահմանները և պահանջում են բարձր թողունակությամբ datacenter սարքավորում։ Թեթև ինֆերենսի համար ընտրեք ավելի փոքր սպառողական GPU, կամ անցեք ավելի մեծ VRAM ունեցող datacenter մոդելի, եթե ձեր քվանտացված չլինող մոդելները կամ batch չափերը գերազանցում են 40 ԳԲ-ը։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | |
| A100 SXM4 | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Մանրամասներ |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Մանրամասներ |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Արդյո՞ք A100 PCIE-ը հարմար է LLM ինֆերենսի և fine-tuning-ի համար։
Այո, նրա 40 ԳԲ VRAM-ը և մոտ 1313 ԳԲ/վ հիշողության թողունակությունը հարմար են միջին և մեծ մոդելների հոստինգի և ճշգրտման համար, որոնք չեն տեղավորվում սպառողական քարտերի վրա։ Դուք կարող եք արագ գործարկել աշխատանքները նախապես կարգավորված vLLM, Ollama կամ PyTorch/CUDA կաղապարների միջոցով։
Ինչպե՞ս է 40 ԳԲ A100 PCIE-ը համեմատվում GPU-ների այլ մակարդակների հետ։
Որպես datacenter Ampere քարտ, այն զգալիորեն ավելի բարձր հիշողության թողունակություն և VRAM է առաջարկում, քան ստանդարտ աշխատանքային կամ սպառողական GPU-ները։ Եթե ձեր ուսուցման կամ ինֆերենսի գործընթացին ավելի մեծ հիշողության տարողություն է անհրաժեշտ, խորհուրդ ենք տալիս դիտարկել datacenter GPU-ի ավելի մեծ տարբերակ։
Ինչպե՞ս կապվել և կարգավորել իմ instance-ը ONIE-ում։
Յուրաքանչյուր վարձակալությունը ներառում է լրիվ SSH մուտք՝ ուղղակի հրամանային տողի կառավարման համար։ Դուք կարող եք նաև գործարկել ձեր instance-ը PyTorch/CUDA, vLLM, Ollama կամ ComfyUI-ի պատրաստի կաղապարներով՝ անմիջապես աշխատելը սկսելու համար։
Ինչպե՞ս է աշխատում A100 PCIE-ի վճարումը։
ONIE-ի instance-ները օգտագործում են ժամավճարային վճարում՝ թույլ տալով վճարել միայն datacenter GPU-ի աշխատելու ժամանակի համար։
Վարձակալեք A100 PCIE-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել A100 PCIE