ເຊົ່າ GPU NVIDIA Tesla P40 ເປັນລາຍຊົ່ວໂມງ
NVIDIA Tesla P40 ແມ່ນ GPU ສຳລັບ datacenter ທີ່ໃຊ້ສະຖາປັດຕະຍະກຳ Pascal ມີ VRAM 24 GB ແລະ compute capability 6.1. ມັນໃຫ້ປະສິດທິພາບການຄິດໄລ່ single-precision ປະມານ 9.4 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 257 GB/s ພາຍໃນຂອບເຂດຄວາມຮ້ອນ 250 W. ໃນ ONIE ທ່ານສາມາດເຊົ່າ GPU ນີ້ໂດຍຄິດໄລ່ເງິນຕາມຊົ່ວໂມງ ເຂົ້າເຖິງດ້ວຍ SSH ແລະ ໃຊ້ເທມເພລດທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI.
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
Tesla P40 ເໝາະສຳລັບຫຍັງ
ການອະນຸມານ Quantized LLM
ແລ່ນໂມເດວພາສາ (LLM) ທ້ອງຖິ່ນທີ່ຕ້ອງການໜ່ວຍຄວາມຈຳສູງເຖິງ 24 GB ໂດຍໃຊ້ເທມເພລດສຳເລັດຮູບ ເຊັ່ນ Ollama ຫຼື vLLM.
ຂັ້ນຕອນການສ້າງຮູບພາບ
ໂຮສ pipeline ComfyUI ທີ່ໄດ້ປະໂຫຍດຈາກຄວາມຈຸ VRAM ທີ່ກວ້າງຂວາງ ສຳລັບການໂຫຼດ checkpoint ແລະ control net ຫຼາຍຕົວ.
ການພັດທະນາ CUDA ລຸ້ນເກົ່າ
ສ້າງ ທົດສອບ ແລະ ດູແລແອັບພລິເຄຊັນ PyTorch/CUDA ທີ່ໃຊ້ສະຖາປັດຕະຍະກຳ Pascal ແລະ compute capability 6.1.
ການປະມວນຜົນເປັນຊຸດທີ່ຈຳກັດດ້ວຍໜ່ວຍຄວາມຈຳ
ປະຕິບັດວຽກງານ datacenter ທີ່ໃຫ້ຄວາມສຳຄັນກັບການໃສ່ຊຸດຂໍ້ມູນຂະໜາດໃຫຍ່ເຂົ້າໃນ VRAM 24 GB ຫຼາຍກວ່າຄວາມໄວໃນການຄິດໄລ່ດິບ.
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
ເລືອກ Tesla P40 ຖ້າຄວາມຕ້ອງການຫຼັກຂອງທ່ານແມ່ນ VRAM 24 GB ສຳລັບງານອະນຸມານ ຫຼືງານພັດທະນາທີ່ໃຊ້ໜ່ວຍຄວາມຈຳຫຼາຍ ແລະ ປະສິດທິພາບ Pascal ລຸ້ນເກົ່າກໍເພຍພໍ. ເລືອກ GPU ທີ່ໃໝ່ກວ່າ ຫຼືໃຫຍ່ກວ່າ ຖ້າທ່ານຕ້ອງການແບນວິດໜ່ວຍຄວາມຈຳສູງກວ່າ ຫຼືການເລັ່ງ tensor ທີ່ທັນສະໄໝສຳລັບການ train ໜັກ ຫຼື ເລືອກ GPU ທີ່ນ້ອຍກວ່າ ຖ້າວຽກຂອງທ່ານໃຊ້ໜ່ວຍຄວາມຈຳໜ້ອຍ.
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
Tesla P40 ເໝາະສົມກັບການແລ່ນໂມເດວພາສາຂະໜາດໃຫຍ່ບໍ?
ຄວາມຈຸ VRAM 24 GB ເຮັດໃຫ້ Tesla P40 ສາມາດເກັບໂມເດວພາສາຂະໜາດປານກາງທີ່ຜ່ານ quantization ໄວ້ໃນໜ່ວຍຄວາມຈຳໄດ້ ໂດຍໃຊ້ເທມເພລດເຊັ່ນ Ollama. ຢ່າງໃດກໍຕາມ ເນື່ອງຈາກແບນວິດໜ່ວຍຄວາມຈຳປະມານ 257 GB/s ແລະ ສະຖາປັດຕະຍະກຳ Pascal ລຸ້ນເກົ່າ ການສ້າງ token ຈະຊ້າກວ່າ GPU datacenter ລຸ້ນໃໝ່.
ຄວນຄາດຫວັງຄວາມເຂົ້າກັນໄດ້ຂອງຊອບແວຫຍັງກັບ compute capability 6.1?
Compute capability 6.1 ຮອງຮັບວຽກ single-precision ມາດຕະຖານທີ່ປະມານ 9.4 TFLOPS ເຊິ່ງເໝາະກັບເທມເພລດ PyTorch/CUDA ທົ່ວໄປ. ໄລບຣາຣີ machine learning ທີ່ທັນສະໄໝບາງຕົວ ຫຼືຄຸນສົມບັດທີ່ຕ້ອງການຄຳສັ່ງຮາດແວໃໝ່ກວ່າ ອາດຈະບໍ່ສາມາດເຮັດວຽກໄດ້ໃນສະຖາປັດຕະຍະກຳ Pascal.
ຂ້ອຍຈະເຊື່ອມຕໍ່ ແລະ ຕັ້ງຄ່າ instance Tesla P40 ໃນ ONIE ແນວໃດ?
ທ່ານສາມາດ deploy instance ໂດຍໃຊ້ເທມເພລດສຳເລັດຮູບສຳລັບ PyTorch/CUDA, vLLM, Ollama ຫຼື ComfyUI. ມີການເຂົ້າເຖິງ SSH ໂດຍກົງໃຫ້ນຳ ເພື່ອໃຫ້ທ່ານຈັດການໄຟລ໌ ແລະ ສະພາບແວດລ້ອມທີ່ກຳນົດເອງຈາກ terminal ຂອງທ່ານ.
ການຄິດໄລ່ເງິນສຳລັບການເຊົ່າ Tesla P40 ເຮັດວຽກແນວໃດ?
Instance ໃນ ONIE ຄິດໄລ່ເງິນຕາມຊົ່ວໂມງ ເຊິ່ງໃຫ້ທ່ານຈ່າຍພຽງແຕ່ໄລຍະເວລາທີ່ instance GPU datacenter ຂອງທ່ານເປີດໃຊ້ຢູ່.
ເຊົ່າ Tesla P40 ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ Tesla P40