NVIDIA CMP 170HX GPU-ын сағат бойынша жалға алыңыз
NVIDIA CMP 170HX — 64 GB VRAM және 250 W TDP жабдықталған Ampere архитектурасындағы деректер орталығына арналған GPU. Ол compute capability 8.0 кезінде шамамен 1516 GB/s жад өткізу қабілеттілігін және бір дәлдіктегі шамамен 12.1 TFLOPS есептеу өнімділігін ұсынады. ONIE платформасында бұл картаны сағаттық төлеммен, толық SSH қолжетімділігімен және PyTorch/CUDA, vLLM, Ollama және ComfyUI үшін дайын үлгілермен іске қоса аласыз.
Сипаттамалары
Әр GPU-ның VRAM-ы
Архитектура
Есептеу мүмкіндігі
FP32 есептеу
Жад өткізу қабілеті
Қуат шегі
Қазіргі тізімдегі машиналар үшін инфрақұрылым провайдері берген мәндер; нақты өнімділік машинаға қарай өзгереді.
Қолжетімді конфигурациялар
Қоймадағы қор мен бағалар үнемі жаңартылып отырады. Соңғы баға тапсырыс берер алдында расталады.
Нақты бағалар жүктелуде…
CMP 170HX неге жарайды
Жадқа тәуелді LLM инференсі
64 GB VRAM сыйымдылығы мен шамамен 1516 GB/s жад өткізу қабілеттілігін пайдаланып, vLLM немесе Ollama арқылы ірі тілдік модельдерге қызмет көрсетіңіз.
Жады көп қажет ететін терең оқыту
Модельдерді құрылғылар арасында бөлмей, елеулі жад сыйымдылығын және compute capability 8.0 талап ететін PyTorch/CUDA жүктемелерін іске қосыңыз.
Күрделі кескін генерациялау жұмыс процестері
64 GB жад пулында ComfyUI ішінде бірнеше ірі диффузиялық чекпойнттар мен басқару желілерін бір уақытта жүктеңіз.
Деректерді өңдеу және модельдеу
250 W қуат шегінде жоғары жад өткізу қабілеттілігінің артықшылығын пайдаланатын, жадты көп қажет ететін деректер орталығы тапсырмаларын орындаңыз.
Бұл сіз үшін дұрыс GPU ма?
Жұмыс жүктемеңіз бір дәлдіктегі таза есептеу өнімділігіне емес, жад сыйымдылығы мен өткізу қабілеттілігіне тәуелді болса, CMP 170HX таңдаңыз. Егер оқыту итерациялары жылдамырақ қажет болса, есептеу өткізу қабілеттілігі жоғары GPU таңдаңыз; ал модельдеріңізге 64 GB VRAM қажет болмаса, тұтынушылық санаттағы кішірек картаны таңдаңыз.
Ұқсас GPU-лармен салыстыру
Жиі қойылатын сұрақтар
CMP 170HX LLM инференсі үшін жарамды ма?
Иә, 64 GB VRAM және шамамен 1516 GB/s жад өткізу қабілеттілігі оны vLLM және Ollama сияқты үлгілер арқылы ірі тілдік модельдерді жүктеу және оларға қызмет көрсету үшін қолайлы етеді. Алайда, ол бір дәлдікте шамамен 12.1 TFLOPS есептеу өнімділігін ұсынатындықтан, prompt өңдеу есептеу тығыздығы жоғары деректер орталығына арналған GPU-лерге қарағанда баяуырақ болады.
Бұл GPU стандартты деректер орталығы акселераторларымен қалай салыстырылады?
CMP 170HX стандартты Ampere деректер орталығы карталарына ұқсас 64 GB көлемді жад буферін және жоғары жад өткізу қабілеттілігін ұсынады әрі 250 W TDP режимінде жұмыс істейді. Негізгі ымырасы — шамамен 12.1 TFLOPS төменірек есептеу өткізу қабілеттілігі, сондықтан ол есептеуі ауыр жүктемелерге қарағанда жадқа тәуелді тапсырмаларға көбірек лайық.
Бұл GPU үшін қандай бағдарламалық орта қолжетімді?
Карта CUDA compute capability 8.0 нұсқасын қолдайды және ONIE платформасында PyTorch/CUDA, vLLM, Ollama және ComfyUI қоса алғанда, алдын ала бапталған үлгілермен іске қосыла алады. Сондай-ақ, өз кітапханаларыңызды орнату және ортаңызды басқару үшін тікелей SSH қолжетімділігін аласыз.
CMP 170HX жалға алынғанда төлем қалай есептеледі?
ONIE платформасындағы инстанстар сағаттық төлемді қолданады, сондықтан GPU белсенді болған уақыт үшін ғана төлейсіз.
CMP 170HX сағаттық жалға алыңыз
Аккаунт жасаңыз, конфигурацияны таңдаңыз және SSH арқылы қосылыңыз. GPU-ды жойғанда есептеу тоқтайды.
CMP 170HX жалға алу