NVIDIA Tesla P40 GPU-ын сағат бойынша жалға алыңыз
NVIDIA Tesla P40 — Pascal архитектурасындағы дата-орталық GPU, 24 GB VRAM және compute capability 6.1 нұсқасы бар. Шамамен 9.4 TFLOPS бір дәлдіктегі (single-precision) есептеу қуатын және шамамен 257 GB/s жады жылдамдығын ұсынады, жылу шегі 250 W. ONIE платформасында бұл GPU-ды сағаттық төлеммен, SSH қолжетімділігімен және PyTorch/CUDA, vLLM, Ollama және ComfyUI үшін дайын үлгілермен жалға алуға болады.
Сипаттамалары
Әр GPU-ның VRAM-ы
Архитектура
Есептеу мүмкіндігі
FP32 есептеу
Жад өткізу қабілеті
Қуат шегі
Қазіргі тізімдегі машиналар үшін инфрақұрылым провайдері берген мәндер; нақты өнімділік машинаға қарай өзгереді.
Қолжетімді конфигурациялар
Қоймадағы қор мен бағалар үнемі жаңартылып отырады. Соңғы баға тапсырыс берер алдында расталады.
Нақты бағалар жүктелуде…
Tesla P40 неге жарайды
Квантталған LLM инференсі
24 GB жадқа дейін қажет ететін жергілікті тіл үлгілерін Ollama немесе vLLM сияқты дайын үлгілер арқылы іске қосыңыз.
Суреттерді генерациялау жұмыс ағындары
Бірнеше checkpoint және ControlNet жүктеу үшін мол VRAM сыйымдылығынан пайда алатын ComfyUI пайплайндарын орналастырыңыз.
Ескі CUDA әзірлеуі
Pascal архитектурасына және compute capability 6.1 нұсқасына арналған PyTorch/CUDA қолданбаларын құрыңыз, сынаңыз және қолдаңыз.
Жадқа тәуелді пакеттік өңдеу
Үлкен деректер жиынтықтарын шикі есептеу жылдамдығынан гөрі 24 GB VRAM-ға сыйғызуға басымдық беретін дата-орталық жұмыс жүктемелерін орындаңыз.
Бұл сіз үшін дұрыс GPU ма?
Негізгі талабыңыз — жадқа ауыр инференс немесе әзірлеу тапсырмалары үшін 24 GB VRAM болса және ескі Pascal есептеуі жеткілікті болса, Tesla P40 таңдаңыз. Ауыр оқыту үшін жоғары жады жылдамдығы немесе заманауи tensor үдеткіші қажет болса, жаңа немесе үлкенірек GPU таңдаңыз; ал жұмыс жүктемесі аз жадты пайдаланса, кішірек GPU таңдаңыз.
Ұқсас GPU-лармен салыстыру
Жиі қойылатын сұрақтар
Tesla P40 үлкен тіл үлгілерін іске қосуға жарай ма?
24 GB VRAM сыйымдылығы Tesla P40-қа Ollama сияқты үлгілерді пайдаланып, орташа өлшемді квантталған тіл үлгілерін жадта ұстауға мүмкіндік береді. Алайда жады жылдамдығы шамамен 257 GB/s және Pascal архитектурасы ескі болғандықтан, токендерді генерациялау жаңа дата-орталық GPU-лармен салыстырғанда баяу болады.
Compute capability 6.1 нұсқасымен қандай бағдарламалық қамтамасыз ету үйлесімділігін күтуім керек?
Compute capability 6.1 шамамен 9.4 TFLOPS бір дәлдіктегі стандартты жұмыс жүктемелерін қолдайды және жалпы PyTorch/CUDA үлгілерімен жақсы жұмыс істейді. Жаңа аппараттық нұсқауларды талап ететін кейбір заманауи машиналық оқыту кітапханалары немесе мүмкіндіктер Pascal архитектурасында іске қосылмауы мүмкін.
ONIE платформасында Tesla P40 данамды қалай қосып, орнатамын?
Данаманы PyTorch/CUDA, vLLM, Ollama немесе ComfyUI үшін дайын үлгілерді пайдаланып орналастыруға болады. Файлдар мен теруші ортаңызды терминалдан басқару үшін тікелей SSH қолжетімділігі қосылған.
Tesla P40 жалға алу төлемі қалай жұмыс істейді?
ONIE платформасындағы данамалар сағаттық төлемді пайдаланады, сондықтан дата-орталық GPU данамасы белсенді болған уақыт үшін ғана төлейсіз.
Tesla P40 сағаттық жалға алыңыз
Аккаунт жасаңыз, конфигурацияны таңдаңыз және SSH арқылы қосылыңыз. GPU-ды жойғанда есептеу тоқтайды.
Tesla P40 жалға алу