Վարձակալեք NVIDIA CMP 170HX GPU ժամավճարով
NVIDIA CMP 170HX-ը Ampere ճարտարապետության տվյալների կենտրոնի GPU է՝ 64 ԳԲ VRAM-ով և 250 Վտ TDP-ով։ Այն ապահովում է մոտ 1516 ԳԲ/վ հիշողության թողունակություն և մոտ 12,1 TFLOPS միակ ճշգրտության հաշվարկային հզորություն՝ compute capability 8.0-ով։ ONIE-ում այս քարտը կարող եք տեղակայել ժամային վճարումով, լրիվ SSH մուտքով և պատրաստի կաղապարներով՝ PyTorch/CUDA, vLLM, Ollama և ComfyUI համար։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար CMP 170HX-ը
Հիշողությամբ սահմանափակված LLM ինֆերենս
Մեծ լեզվական մոդելներ սպասարկեք vLLM-ի կամ Ollama-ի միջոցով՝ օգտագործելով 64 ԳԲ VRAM-ը և մոտ 1516 ԳԲ/վ հիշողության թողունակությունը։
Մեծ հիշողությամբ խորը ուսուցում
Գործարկեք PyTorch/CUDA աշխատանքներ, որոնք պահանջում են զգալի հիշողության ծավալ և compute capability 8.0, առանց մոդելները սարքերի միջև բաժանելու։
Բարդ պատկերների ստեղծման աշխատանքային հոսքեր
ComfyUI-ում միաժամանակ բեռնեք մի քանի մեծ դիֆուզիոն checkpoint-ներ և control net-ներ՝ 64 ԳԲ հիշողության շրջանակում։
Տվյալների մշակում և մոդելավորում
Կատարեք հիշողության մեծ ծավալ պահանջող տվյալների կենտրոնի առաջադրանքներ, որոնք օգուտ են քաղում բարձր հիշողության թողունակությունից՝ 250 Վտ հզորության սահմաններում։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք CMP 170HX, երբ ձեր աշխատանքը սահմանափակված է հիշողության քանակով և թողունակությամբ, այլ ոչ թե հում միակ ճշգրտության հաշվարկային հզորությամբ։ Եթե ձեզ անհրաժեշտ են ավելի արագ ուսուցման իտերացիաներ, ընտրեք ավելի բարձր հաշվարկային թողունակությամբ GPU, իսկ եթե ձեր մոդելներին հարկավոր չէ 64 ԳԲ VRAM, ընտրեք ավելի փոքր սպառողական քարտ։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Մանրամասներ |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Մանրամասներ |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Հարմա՞ր է արդյոք CMP 170HX-ը LLM ինֆերենսի համար։
Այո, 64 ԳԲ VRAM-ը և մոտ 1516 ԳԲ/վ հիշողության թողունակությունը այն լավ են հարմարեցնում մեծ լեզվական մոդելների բեռնման և սպասարկման համար՝ օգտագործելով vLLM և Ollama կաղապարները։ Այնուամենայնիվ, քանի որ այն ապահովում է մոտ 12,1 TFLOPS միակ ճշգրտության հաշվարկային հզորություն, prompt-ի մշակումը կլինի ավելի դանդաղ, քան բարձր հաշվարկային խտությամբ տվյալների կենտրոնի GPU-ներով։
Ինչպե՞ս է այս GPU-ն համեմատվում ստանդարտ տվյալների կենտրոնի արագացուցիչների հետ։
CMP 170HX-ը առաջարկում է 64 ԳԲ հիշողության մեծ բուֆեր և բարձր հիշողության թողունակություն, որը նման է ստանդարտ Ampere տվյալների կենտրոնի քարտերին, և աշխատում է 250 Վտ TDP-ով։ Նրա հիմնական փոխզիջումը մոտ 12,1 TFLOPS հաշվարկային թողունակությունն է, ինչը այն ավելի հարմար է դարձնում հիշողությամբ սահմանափակված առաջադրանքների, քան ծանր հաշվարկային աշխատանքների համար։
Ի՞նչ ծրագրային միջավայրեր են հասանելի այս GPU-ի համար։
Քարտը աջակցում է CUDA compute capability 8.0-ին և կարող է գործարկվել ONIE-ում՝ նախապես կազմաձևված կաղապարներով, ներառյալ PyTorch/CUDA, vLLM, Ollama և ComfyUI։ Ձեզ տրամադրվում է նաև ուղղակի SSH մուտք՝ անհատական գրադարաններ տեղադրելու և միջավայրը կառավարելու համար։
Ինչպե՞ս է աշխատում վճարումը CMP 170HX-ը վարձակալելիս։
ONIE-ի instance-ները օգտագործում են ժամային վճարում, այնպես որ դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր GPU-ն ակտիվ է մնում։
Վարձակալեք CMP 170HX-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել CMP 170HX