Pangisha GPU ya NVIDIA CMP 170HX kwa saa
Kadi ya NVIDIA CMP 170HX ni GPU ya kituo cha data yenye usanifu wa Ampere, ikiwa na VRAM ya GB 64 na TDP ya 250 W. Inatoa kipimo data cha kumbukumbu cha takriban 1516 GB/s, pamoja na takriban 12.1 TFLOPS za hesabu ya usahihi mmoja (single-precision) katika compute capability 8.0. Kwenye ONIE, unaweza kuzindua kadi hii kwa malipo ya kila saa, ufikiaji kamili wa SSH, na violezo vilivyo tayari kwa PyTorch/CUDA, vLLM, Ollama, na ComfyUI.
Vipimo
VRAM kwa kila GPU
Usanifu
Uwezo wa kompyuta
Kukokotoa FP32
Bandwidth ya kumbukumbu
Kikomo cha nguvu
Thamani zilizotolewa na mtoa miundombinu kwa mashine zilizoorodheshwa sasa; utendaji halisi hutofautiana kulingana na mashine.
Mipangilio inayopatikana
Hisa na bei za moja kwa moja, zinazosasishwa mfululizo. Bei ya mwisho inathibitishwa kabla ya kuagiza.
Inapakia bei za moja kwa moja…
Matumizi bora ya CMP 170HX
Uendeshaji wa LLM Unaozuiliwa na Kumbukumbu
Hudumia miundo mikubwa ya lugha (large language models) kupitia vLLM au Ollama kwa kutumia uwezo wa VRAM wa GB 64 na kipimo data cha takriban 1516 GB/s cha kumbukumbu.
Kujifunza Kwa Kina chenye Kumbukumbu Kubwa
Endesha kazi za PyTorch/CUDA zinazohitaji uwezo mkubwa wa kumbukumbu na compute capability 8.0 bila kugawanya miundo kati ya vifaa.
Mtiririko Tata wa Kuzalisha Picha
Pakia miundo mikubwa ya diffusion (checkpoints) na control nets kwa wakati mmoja katika ComfyUI ndani ya bwawa la kumbukumbu la GB 64.
Uchakataji wa Data na Uigaji
Tekeleza kazi za kituo cha data zinazotumia kumbukumbu kwa wingi na zinazonufaika na kasi kubwa ya kumbukumbu ndani ya bahasha ya nguvu ya 250 W.
Je, ni GPU sahihi kwako?
Chagua CMP 170HX pale mzigo wako wa kazi unapozuiwa na uwezo na kipimo data cha kumbukumbu badala ya nguvu ghafi ya hesabu ya usahihi mmoja. Chagua GPU yenye uwezo mkubwa wa hesabu ikiwa unahitaji mizunguko ya mafunzo ya haraka zaidi, au chagua kadi ndogo ya kawaida ikiwa miundo yako haihitaji GB 64 za VRAM.
Linganisha na GPU zinazofanana
Maswali yanayoulizwa mara kwa mara
Je, CMP 170HX inafaa kwa uendeshaji wa LLM?
Ndiyo, VRAM yake ya GB 64 na kipimo data cha takriban 1516 GB/s cha kumbukumbu vinaifanya ifae vizuri kwa kupakia na kuhudumia miundo mikubwa ya lugha kwa kutumia violezo kama vLLM na Ollama. Hata hivyo, kwa kuwa inatoa takriban 12.1 TFLOPS za hesabu ya usahihi mmoja, usindikaji wa prompt utakuwa polepole zaidi kuliko kwenye GPU za kituo cha data zenye msongamano mkubwa wa hesabu.
Kadi hii inalinganishwaje na vichapuzi vya kawaida vya kituo cha data?
CMP 170HX inatoa bafa kubwa ya kumbukumbu ya GB 64 na kipimo data cha juu cha kumbukumbu kinachofanana na kadi za kawaida za Ampere za kituo cha data, huku ikifanya kazi kwa TDP ya 250 W. Biashara yake kuu ni kiwango cha chini cha hesabu cha takriban 12.1 TFLOPS, hivyo inafaa zaidi kwa kazi zinazozuiliwa na kumbukumbu kuliko kazi nzito za hesabu.
Ni mazingira gani ya programu yanapatikana kwa GPU hii?
Kadi inaunga mkono CUDA compute capability 8.0 na inaweza kuzinduliwa kwenye ONIE kwa kutumia violezo vilivyosanidiwa awali, ikiwa ni pamoja na PyTorch/CUDA, vLLM, Ollama, na ComfyUI. Pia unapata ufikiaji wa moja kwa moja wa SSH wa kusakinisha maktaba maalum na kusimamia mazingira yako.
Malipo yanafanyaje kazi unapokodisha CMP 170HX?
Mifano kwenye ONIE inatozwa kwa kila saa, kwa hiyo unalipa tu kwa muda ambao GPU yako inabaki hai.
Kodi CMP 170HX kwa saa
Fungua akaunti, chagua mpangilio na uunganishe kupitia SSH. Malipo yanakoma unapofuta GPU.
Kodi CMP 170HX