ເຊົ່າ GPU NVIDIA Tesla V100 ເປັນລາຍຊົ່ວໂມງ
NVIDIA Tesla V100 ແມ່ນ GPU ສຳລັບ datacenter ສະຖາປັດຕະຍະກຳ Volta ທີ່ມາພ້ອມ VRAM ຄວາມໄວສູງ 16 GB ແລະ TDP 300 W. ມັນໃຫ້ປະສິດທິພາບ single-precision ປະມານ 12.5 TFLOPS ແລະ bandwidth ໜ່ວຍຄວາມຈຳປະມານ 780 GB/s ເຊິ່ງເໝາະກັບວຽກ scientific computing ແລະ deep learning ທີ່ໃຊ້ໜ່ວຍຄວາມຈຳສູງ. ໃນ ONIE ທ່ານສາມາດ deploy Tesla V100 ດ້ວຍການເກັບເງິນຕາມຊົ່ວໂມງ, ການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບ ແລະ template ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
Tesla V100 ເໝາະສຳລັບຫຍັງ
ການ Inference LLM ຂະໜາດນ້ອຍ
ໃຫ້ບໍລິການໂມເດວພາສາແບບ quantized ຫຼືຂະໜາດນ້ອຍກວ່າ ດ້ວຍ template Ollama ຫຼື vLLM ໂດຍໃຊ້ bandwidth ໜ່ວຍຄວາມຈຳປະມານ 780 GB/s.
ການ Prototype ດ້ວຍ Deep Learning
ຝຶກ ແລະ ກວດສອບສະຖາປັດຕະຍະກຳ neural network ໃນ PyTorch ດ້ວຍ VRAM 16 GB ແລະ compute capability 7.0.
ຂັ້ນຕອນການສ້າງຮູບພາບ
ຮັນ diffusion pipeline ແລະ generation graph ແບບກຳນົດເອງ ຜ່ານ template ComfyUI ທີ່ຕິດຕັ້ງໄວ້ລ່ວງໜ້າ.
ການຈຳລອງວິທະຍາສາດ ແລະ ການຄຳນວນ
ປະຕິບັດວຽກ datacenter ທີ່ຖືກຈຳກັດດ້ວຍ bandwidth ເຊິ່ງໄດ້ປະໂຫຍດຈາກສະຖາປັດຕະຍະກຳ Volta ແລະ ປະສິດທິພາບ single-precision ປະມານ 12.5 TFLOPS.
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
Tesla V100 ຂະໜາດ 16 GB ເໝາະກັບນັກຄົ້ນຄວ້າ ແລະ ນັກພັດທະນາທີ່ຕ້ອງການ bandwidth ໜ່ວຍຄວາມຈຳສູງສຳລັບໂມເດວຂະໜາດນ້ອຍຫາປານກາງ ແລະ ວຽກວິທະຍາສາດ ໂດຍບໍ່ຕ້ອງຈ່າຍສຳລັບຮາດແວ datacenter ລຸ້ນໃໝ່. ຖ້າທ່ານພັດທະນາພື້ນຖານ ແລະ ຕ້ອງການໜ່ວຍຄວາມຈຳໜ້ອຍກວ່າ ໃຫ້ເລືອກ GPU consumer ທີ່ມີຂະໜາດນ້ອຍກວ່າ. ຖ້າໂມເດວຂອງທ່ານເກີນ 16 GB ຫຼື ຕ້ອງການຄຸນສົມບັດສະຖາປັດຕະຍະກຳທີ່ໃໝ່ກວ່າ compute capability 7.0 ໃຫ້ເລືອກ GPU ລຸ້ນໃໝ່ທີ່ມີ VRAM ຫຼາຍກວ່າ.
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
Tesla V100 ຂະໜາດ 16 GB ເໝາະກັບການ inference LLM ແລະ fine-tuning ບໍ?
VRAM 16 GB ແລະ bandwidth ໜ່ວຍຄວາມຈຳປະມານ 780 GB/s ເຮັດໃຫ້ Tesla V100 ເໝາະກັບການ inference ໂມເດວພາສາຂະໜາດນ້ອຍ ຫຼື quantized ແລະ parameter-efficient fine-tuning. ສຳລັບໂມເດວໃຫຍ່ທີ່ບໍ່ສາມາດໃສ່ໃນ 16 GB ໄດ້ ທ່ານຄວນເລືອກ GPU ທີ່ມີ VRAM ຄວາມຈຸສູງກວ່າ.
ມີ software template ແລະ ວິທີການເຊື່ອມຕໍ່ຫຍັງແດ່ໃນ ONIE?
Tesla V100 ທຸກ instance ມີການເຂົ້າເຖິງ SSH ໂດຍກົງສຳລັບການຕັ້ງຄ່າເອງ ແລະ ວຽກງານຜ່ານ command line. ທ່ານຍັງສາມາດເປີດ template ທີ່ພ້ອມໃຊ້ງານ ລວມທັງ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI ເພື່ອເລີ່ມເຮັດວຽກທັນທີ.
ສະຖາປັດຕະຍະກຳ Volta ສົ່ງຜົນຕໍ່ຄວາມເຂົ້າກັນໄດ້ຂອງ framework ແນວໃດ?
Tesla V100 ຮອງຮັບ CUDA compute capability 7.0 ເຊິ່ງເຂົ້າກັນໄດ້ກັບ deep learning framework ມາດຕະຖານ ເຊັ່ນ PyTorch. ແນວໃດກໍຕາມ ວຽກທີ່ຕ້ອງການຄຸນສົມບັດທີ່ແນະນຳໃນ compute capability ໃໝ່ກວ່າ ຈະຕ້ອງໃຊ້ GPU ສະຖາປັດຕະຍະກຳທີ່ໃໝ່ກວ່າ.
ການເກັບເງິນສຳລັບການເຊົ່າ Tesla V100 ເຮັດວຽກແນວໃດ?
ONIE ໃຊ້ການເກັບເງິນຕາມຊົ່ວໂມງແບບກົງໄປກົງມາສຳລັບການເຊົ່າ Tesla V100 ທັງໝົດ. ທ່ານຈ່າຍສະເພາະເວລາທີ່ instance ເຮັດວຽກຢູ່ ເຊິ່ງເໝາະກັບການທົດລອງ ຫຼື batch job ແລະ ສາມາດຢຸດ server ເມື່ອສຳເລັດແລ້ວ.
ເຊົ່າ Tesla V100 ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ Tesla V100