ເຊົ່າ GPU NVIDIA H100 NVL ເປັນລາຍຊົ່ວໂມງ
NVIDIA H100 NVL ເປັນ GPU datacenter ສະຖາປັດຕະຍະກຳ Hopper ທີ່ມາພ້ອມ VRAM 94 GB ແລະ compute capability 9.0. ມັນໃຫ້ປະສິດທິພາບ single-precision ປະມານ 48.3 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3381 GB/s ພາຍໃນຂອບເຂດຄວາມຮ້ອນ 400 W. ເຊົ່າ H100 NVL ໃນ ONIE ດ້ວຍການຄິດຄ່າບໍລິການເປັນລາຍຊົ່ວໂມງ, ການເຂົ້າເຖິງ SSH ແລະ template ທີ່ພ້ອມໃຊ້ສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI.
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
H100 NVL ເໝາະສຳລັບຫຍັງ
ການອະນຸມານ Large Language Model
ນຳໃຊ້ໂມເດວພາສາຄວາມຈຸສູງດ້ວຍ vLLM ຫຼື Ollama ໂດຍໃຊ້ VRAM 94 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3381 GB/s ເພື່ອການສ້າງ token ທີ່ວ່ອງໄວ.
ການ Fine-Tuning ດ້ວຍ Deep Learning
ຝຶກສອນ ແລະ ປັບແຕ່ງ neural networks ດ້ວຍ PyTorch ໂດຍໃຊ້ຄຸນສົມບັດສະຖາປັດຕະຍະກຳ Hopper ແລະ compute capability 9.0.
ການສ້າງພາບຄວາມລະອຽດສູງ
ເຮັດວຽກ ComfyUI workflows ທີ່ຊັບຊ້ອນ ແລະ diffusion pipelines ຂະໜາດໃຫຍ່ໃນໜ່ວຍຄວາມຈຳ ໂດຍບໍ່ຕ້ອງຍ້າຍຂໍ້ມູນໄປຍັງ RAM ຂອງລະບົບ.
ການຄອມພິວເຕີວິທະຍາສາດ ແລະ ການຈຳລອງ
ປະຕິບັດວຽກງານ datacenter ທີ່ໃຊ້ໜ່ວຍຄວາມຈຳສູງ ເຊິ່ງໄດ້ປະໂຫຍດຈາກການຄິດໄລ່ single-precision ປະມານ 48.3 TFLOPS.
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
ເລືອກ H100 NVL ເມື່ອວຽກ AI ຫຼື ວຽກຄອມພິວເຕີຂອງທ່ານຕ້ອງການໜ່ວຍຄວາມຈຳຫຼາຍກວ່າ GPU datacenter ທົ່ວໄປ ໂດຍມີ VRAM ສູງສຸດເຖິງ 94 GB. ສຳລັບການອະນຸມານນ້ຳໜັກເບົາ ແລະ ການພັດທະນາ, workstation ຫຼື GPU ຂະໜາດນ້ອຍກວ່າຈະເໝາະສົມກວ່າ ໃນຂະນະທີ່ການຕັ້ງຄ່າ multi-GPU ຫຼື ລະດັບໜ່ວຍຄວາມຈຳທີ່ໃຫຍ່ກວ່າຈຳເປັນ ຖ້າໂມເດວຂອງທ່ານເກີນ 94 GB.
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
H100 NVL ເໝາະສົມກັບການອະນຸມານ LLM ແລະ fine-tuning ບໍ?
ແມ່ນແລ້ວ. VRAM 94 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3381 GB/s ເຮັດໃຫ້ມັນເໝາະສົມກັບການໃຫ້ບໍລິການ ແລະ fine-tuning ໂມເດວພາສາຂະໜາດໃຫຍ່ ທີ່ບໍ່ສາມາດໃສ່ໃນ GPU datacenter ຂະໜາດນ້ອຍກວ່າໄດ້.
H100 NVL ປຽບທຽບກັບຮຸ່ນ H100 ມາດຕະຖານແນວໃດ?
H100 NVL ມີຄວາມຈຸ VRAM ເພີ່ມເປັນ 94 GB ແລະ ຂອບເຂດພະລັງງານ 400 W ໃຫ້ພື້ນທີ່ໜ່ວຍຄວາມຈຳເພີ່ມເຕີມ ເມື່ອທຽບກັບການຕັ້ງຄ່າ Hopper datacenter ມາດຕະຖານ.
ມີ template ຊອບແວໃດແດ່ໃຫ້ໃຊ້ໃນ ONIE ສຳລັບ GPU ນີ້?
ທ່ານສາມາດນຳໃຊ້ H100 NVL ດ້ວຍ template ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI ທັງໝົດຮອງຮັບ compute capability 9.0.
ການຄິດຄ່າບໍລິການ ແລະ ການເຂົ້າເຖິງເຮັດວຽກແນວໃດເມື່ອເຊົ່າ H100 NVL?
Instance ໃນ ONIE ໃຊ້ການຄິດຄ່າບໍລິການເປັນລາຍຊົ່ວໂມງ ແລະ ໃຫ້ການເຂົ້າເຖິງ SSH ໂດຍກົງ ເພື່ອໃຫ້ທ່ານສາມາດຈັດການສະພາບແວດລ້ອມ ແລະ workflow ໄດ້ທັນທີ.
ເຊົ່າ H100 NVL ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ H100 NVL