GPU Cloud · NVIDIA · Hopper

ເຊົ່າ GPU NVIDIA H100 PCIE ເປັນລາຍຊົ່ວໂມງ

NVIDIA H100 PCIE ເປັນ GPU ສູນຂໍ້ມູນທີ່ໃຊ້ສະຖາປັດຕະຍະກຳ Hopper ອອກແບບມາສຳລັບວຽກ deep learning ແລະ ການຄຳນວນທາງວິທະຍາສາດທີ່ຕ້ອງການປະສິດທິພາບສູງ. ມີ VRAM 80 GB, ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 1760 GB/s ແລະ ປະສິດທິພາບການຄຳນວນ floating-point ມາດຕະຖານປະມານ 41.0 TFLOPS ໃນພະລັງງານ 350 W. ໃນ ONIE ທ່ານສາມາດນຳໃຊ້ຕົວເລັ່ງ compute capability 9.0 ນີ້ດ້ວຍການເກັບເງິນຕາມຊົ່ວໂມງ ແລະ ການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບ.

ເຊົ່າ H100 PCIE

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

80 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Hopper

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

9.0

ການຄຳນວນ FP32

≈ 41 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 1,760 GB/s

ຂີດຈຳກັດພະລັງງານ

350 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

H100 PCIE ເໝາະສຳລັບຫຍັງ

ການ Inference ຂອງ Large Language Model

ໃຫ້ບໍລິການ large language model ໃນໜ່ວຍຄວາມຈຳ ໂດຍໃຊ້ VRAM 80 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳສູງ ພ້ອມກັບ template vLLM ຫຼື Ollama ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.

ການ Fine-Tuning ແລະ ການ Training ໂມເດວ

Train ຫຼື fine-tune deep neural network ດ້ວຍສະຖາປັດຕະຍະກຳ Hopper ແລະ ສະພາບແວດລ້ອມ PyTorch/CUDA ທີ່ພ້ອມໃຊ້ງານ.

ການສ້າງຮູບພາບເປັນຊຸດ

ເອີ້ນໃຊ້ pipeline diffusion ທີ່ມີປະສິດທິພາບການປະມວນຜົນສູງ ແລະ workflow ComfyUI ທີ່ຊັບຊ້ອນ ເຊິ່ງໄດ້ປະໂຫຍດຈາກຄວາມຈຸໜ່ວຍຄວາມຈຳຂະໜາດໃຫຍ່.

ວິທະຍາສາດຂໍ້ມູນ ແລະ ການຈຳລອງ

ດຳເນີນການຈຳລອງ ແລະ ປະມວນຜົນຂໍ້ມູນທີ່ໃຊ້ການຄຳນວນສູງ ດ້ວຍປະສິດທິພາບ floating-point ມາດຕະຖານປະມານ 41.0 TFLOPS ແລະ ປະສິດທິພາບໜ່ວຍຄວາມຈຳປະມານ 1760 GB/s.

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

ເລືອກ H100 PCIE ເມື່ອວຽກຂອງທ່ານຕ້ອງການ VRAM 80 GB, ແບນວິດໜ່ວຍຄວາມຈຳລະດັບ datacenter ແລະ ຄຸນສົມບັດ compute capability 9.0 ຂອງ Hopper. ສຳລັບ inference ທີ່ເບົາກວ່າ ຫຼື ໂມເດວຂະໜາດນ້ອຍ workstation ຫຼື GPU ສຳລັບຜູ້ບໍລິໂພກທີ່ມີ VRAM ໜ້ອຍກວ່າຈະປະຢັດກວ່າ ແລະ ວຽກທີ່ຕ້ອງການ throughput ສູງສຸດອາດເໝາະກັບຕົວແປ SXM ຂອງ datacenter ຫຼາຍກວ່າ.

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPU	VRAM ຕໍ່ GPU	ສະຖາປັດຕະຍະກຳ	ການຄຳນວນ FP32	ເລີ່ມຕົ້ນ / ຊົ່ວໂມງ	ລາຍລະອຽດ
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—	ລາຍລະອຽດ
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—	ລາຍລະອຽດ
RTX A6000	48 GB	Ampere	≈ 36.1 TFLOPS	—	ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

H100 PCIE ເໝາະກັບການ fine-tune ແລະ inference ຂອງ LLM ບໍ?

ເໝາະ. VRAM 80 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 1760 GB/s ເຮັດໃຫ້ມັນເໝາະກັບການໂຮສ ແລະ train ໂມເດວຂະໜາດໃຫຍ່. ທ່ານສາມາດເລີ່ມໃຊ້ງານໄດ້ທັນທີດ້ວຍ template PyTorch/CUDA, vLLM ຫຼື Ollama ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.

H100 PCIE ປຽບທຽບກັບ SXM ຫຼື GPU workstation ຂະໜາດນ້ອຍແນວໃດ?

H100 PCIE ມີ TDP 350 W ໃຫ້ການໃຊ້ພະລັງງານທີ່ຕ່ຳກວ່າ ແລະ ຮອງຮັບ PCIe ມາດຕະຖານ ເມື່ອທຽບກັບຕົວແປ SXM ຂອງ datacenter ທີ່ມີວັດຕ໌ສູງກວ່າ. ທຽບກັບການ์ດ workstation ຫຼື ສຳລັບຜູ້ບໍລິໂພກ ມັນໃຫ້ VRAM 80 GB ທີ່ຫຼາຍກວ່າຢ່າງຊັດເຈນ ແລະ ແບນວິດໜ່ວຍຄວາມຈຳທີ່ສູງກວ່າ.

GPU ນີ້ຮອງຮັບ software ແລະ compute capability ອັນໃດແດ່?

ເນື່ອງຈາກຖືກສ້າງໃນສະຖາປັດຕະຍະກຳ NVIDIA Hopper, H100 PCIE ຮອງຮັບ CUDA compute capability 9.0. ທ່ານສາມາດເປີດ instance ດ້ວຍ template ທີ່ພ້ອມໃຊ້ເຊັ່ນ PyTorch/CUDA ແລະ ComfyUI ຫຼືຕັ້ງຄ່າ stack ຂອງທ່ານເອງຜ່ານການເຂົ້າເຖິງ SSH.

ການເກັບເງິນສຳລັບ instance H100 PCIE ໃນ ONIE ເປັນແນວໃດ?

Instance ໃນ ONIE ໃຊ້ການເກັບເງິນຕາມຊົ່ວໂມງແບບກົງໄປກົງມາ ດັ່ງນັ້ນທ່ານພຽງແຕ່ຈ່າຍສຳລັບເວລາທີ່ GPU ຂອງທ່ານເຮັດວຽກຢູ່. ການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບຖືກລວມໄວ້ໃນທຸກການນຳໃຊ້.

ເຊົ່າ H100 PCIE ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ H100 PCIE

GPU ທັງໝົດ →