เข้าสู่ระบบ
GPU Cloud · NVIDIA · Hopper

ເຊົ່າ GPU NVIDIA H200 NVL ເປັນລາຍຊົ່ວໂມງ

NVIDIA H200 NVL ເປັນ GPU ສຳລັບ datacenter ໃນສະຖາປັດຕະຍະກຳ Hopper ທີ່ອອກແບບມາສຳລັບວຽກທີ່ໃຊ້ໜ່ວຍຄວາມຈຳສູງ ມີ VRAM 140 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3884 GB/s ໃຊ້ພະລັງງານ 600 W ຮອງຮັບ compute capability 9.0 ແລະ ໃຫ້ປະສິດທິພາບ floating-point ມາດຕະຖານປະມານ 48.3 TFLOPS ທ່ານສາມາດນຳໃຊ້ໂປຣເຊດເຊີນີ້ໃນ ONIE ດ້ວຍການເກັບເງິນເປັນລາຍຊົ່ວໂມງ ການເຂົ້າເຖິງ SSH ໂດຍກົງ ແລະ templates ທີ່ພ້ອມໃຊ້

ເຊົ່າ H200 NVL

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

140 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Hopper

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

9.0

ການຄຳນວນ FP32

≈ 48.3 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 3,884 GB/s

ຂີດຈຳກັດພະລັງງານ

600 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

H200 NVL ເໝາະສຳລັບຫຍັງ

ການ Inference ຂອງ LLM

ເອີ້ນໃຊ້ໂມເດວຂະໜາດໃຫຍ່ໃນໜ່ວຍຄວາມຈຳໂດຍບໍ່ຕ້ອງແບ່ງໂມເດວຂ້າມ GPU ໂດຍໃຊ້ປະໂຫຍດຈາກຄວາມຈຸ VRAM 140 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3884 GB/s

ການ Fine-Tuning ແລະ ການ Training ໂມເດວ

ຝຶກແລະປັບແຕ່ງໂມເດວ deep learning ດ້ວຍ Hopper ທີ່ມີ compute capability 9.0 ແລະ ໜ່ວຍຄວາມຈຳ GPU ທີ່ກວ້າງຂວາງ ສຳລັບ batch size ໃຫຍ່

ການປະມວນຜົນ Batch ປະລິມານສູງ

ປະມວນຜົນຊຸດຂໍ້ມູນຂະໜາດໃຫຍ່ ແລະ context window ທີ່ຍາວ ໄດ້ຢ່າງມີປະສິດທິພາບ ດ້ວຍ templates PyTorch/CUDA, vLLM ຫຼື Ollama ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ

ການຄຳນວນວິທະຍາສາດ ແລະ ການຈຳລອງ

ດຳເນີນການຈຳລອງ datacenter ທີ່ຊັບຊ້ອນ ຊຶ່ງຕ້ອງການປະສິດທິພາບ floating-point ມາດຕະຖານປະມານ 48.3 TFLOPS ແລະ ໜ່ວຍຄວາມຈຳໃນຕົວທີ່ມີຂະໜາດໃຫຍ່

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

ເລືອກ H200 NVL ເມື່ອຂໍ້ຈຳກັດຫຼັກຂອງທ່ານແມ່ນຄວາມຈຸ VRAM ແລະ ແບນວິດໜ່ວຍຄວາມຈຳ ໂດຍສະເພາະສຳລັບການໂຮສໂມເດວຂະໜາດໃຫຍ່ໃນ GPU ໃບດຽວ ຖ້າທ່ານກຳລັງໃຊ້ການ inference ທີ່ເບົາກວ່າ ການສ້າງຮູບພາບທົ່ວໄປ ຫຼື ວຽກພັດທະນາທີ່ບໍ່ຕ້ອງການໜ່ວຍຄວາມຈຳ 140 GB workstation ຂະໜາດນ້ອຍກວ່າ ຫຼື GPU ສຳລັບຜູ້ບໍລິໂພກຈະເໝາະສົມກວ່າ

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPUVRAM ຕໍ່ GPUສະຖາປັດຕະຍະກຳການຄຳນວນ FP32ເລີ່ມຕົ້ນ / ຊົ່ວໂມງລາຍລະອຽດ
H200 NVL140 GBHopper≈ 48.3 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—ລາຍລະອຽດ
H100 SXM80 GBHopper≈ 53.5 TFLOPS—ລາຍລະອຽດ
H100 PCIE80 GBHopper≈ 41 TFLOPS—ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

ເປັນຫຍັງຈຶ່ງເລືອກ H200 NVL ແທນ GPU Hopper ມາດຕະຖານ?

H200 NVL ມີ VRAM 140 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 3884 GB/s ເຊິ່ງສູງກວ່າຄວາມຈຸ ແລະ ແບນວິດຂອງກາດ Hopper ຮຸ່ນກ່ອນໜ້າ ສິ່ງນີ້ເຮັດໃຫ້ໂມເດວ ແລະ context window ທີ່ໃຫຍ່ກວ່າສາມາດບັນຈຸໄດ້ໃນ GPU ໃບດຽວ

H200 NVL ເໝາະສົມສຳລັບການໃຫ້ບໍລິການ LLM ດ້ວຍ vLLM ຫຼື Ollama ບໍ?

ແມ່ນແລ້ວ ເໝາະສົມຫຼາຍ ໜ່ວຍຄວາມຈຳ 140 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳສູງ ເຮັດໃຫ້ມັນເໝາະກັບການໃຫ້ບໍລິການໂມເດວພາສາຂະໜາດໃຫຍ່ ONIE ມີ templates ສຳລັບທັງ vLLM ແລະ Ollama ເພື່ອຊ່ວຍໃຫ້ທ່ານເລີ່ມຕົ້ນໄດ້ໄວ

ມີສະພາບແວດລ້ອມຊອບແວ ແລະ ວິທີການເຂົ້າເຖິງແບບໃດບ້າງ?

ທຸກ instance ມີການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບສຳລັບການຕັ້ງຄ່າແບບກຳນົດເອງ ທ່ານຍັງສາມາດເປີດ instance ດ້ວຍ templates ທີ່ຕິດຕັ້ງໄວ້ລ່ວງໜ້າ ລວມທັງ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI

ການເກັບເງິນສຳລັບ H200 NVL ໃນ ONIE ເຮັດວຽກແນວໃດ?

instance ຖືກເກັບເງິນເປັນລາຍຊົ່ວໂມງ ທ່ານຈ່າຍສະເພາະເວລາທີ່ instance H200 NVL ຂອງທ່ານເປີດໃຊ້ຢູ່ເທົ່ານັ້ນ

ເຊົ່າ H200 NVL ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ H200 NVL

GPU ທັງໝົດ →