GPU Cloud · NVIDIA · Ampere

ເຊົ່າ GPU NVIDIA A100 PCIE ເປັນລາຍຊົ່ວໂມງ

NVIDIA A100 PCIE ເປັນ GPU ສຳລັບ datacenter ທີ່ສ້າງຂຶ້ນດ້ວຍສະຖາປັດຕະຍະກຳ Ampere ມີ VRAM 40 GB ແລະ ການໃຊ້ພະລັງງານ 250 W. ມັນໃຫ້ປະສິດທິພາບການຄຳນວນ floating-point ມາດຕະຖານປະມານ 15.6 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 1313 GB/s ຮອງຮັບ CUDA compute capability 8.0. ຢູ່ ONIE ທ່ານສາມາດເຊົ່າຮາດແວນີ້ດ້ວຍການຄິດໄລ່ເງິນຕາມຊົ່ວໂມງ, ການເຂົ້າເຖິງ SSH ແລະ ເທມເພລດສຳເລັດຮູບສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI.

ເຊົ່າ A100 PCIE

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

40 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Ampere

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

8.0

ການຄຳນວນ FP32

≈ 15.6 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 1,313 GB/s

ຂີດຈຳກັດພະລັງງານ

250 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

A100 PCIE ເໝາະສຳລັບຫຍັງ

ການ Inference ດ້ວຍໂມເດວ LLM

ໃຫ້ບໍລິການໂມເດວພາສາດ້ວຍ vLLM ຫຼື Ollama ໂດຍໃຊ້ປະໂຫຍດຈາກຄວາມຈຸ VRAM 40 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 1313 GB/s ເພື່ອສ້າງ token.

ການ Fine-Tuning ດ້ວຍ Deep Learning

ເຮັດວຽກ training ແລະ fine-tuning ດ້ວຍ PyTorch/CUDA ບົນສະຖາປັດຕະຍະກຳ datacenter Ampere ທີ່ມີ compute capability 8.0.

ການສ້າງຮູບພາບຄວາມລະອຽດສູງ

ປະຕິບັດ workflow diffusion ທີ່ຊັບຊ້ອນໃນ ComfyUI ທີ່ຕ້ອງການໜ່ວຍຄວາມຈຳຫຼາຍກວ່າທີ່ຮາດແວຜູ້ບໍລິໂພກໃຫ້ໄດ້.

ການຄຳນວນວິທະຍາສາດ ແລະ ຂໍ້ມູນ

ປະມວນຜົນການຈຳລອງ ແລະ ວຽກວິເຄາະຂໍ້ມູນທີ່ໃຊ້ໜ່ວຍຄວາມຈຳຫຼາຍ ໂດຍໃຊ້ປະສິດທິພາບການຄຳນວນປະມານ 15.6 TFLOPS.

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

ເລືອກ A100 PCIE 40 GB ເມື່ອວຽກຂອງທ່ານເກີນຂີດຈຳກັດໜ່ວຍຄວາມຈຳຂອງ GPU ຜູ້ບໍລິໂພກ ແລະ ຕ້ອງການຮາດແວ datacenter ທີ່ມີແບນວິດສູງ. ເລືອກ GPU ຜູ້ບໍລິໂພກຂະໜາດນ້ອຍກວ່າສຳລັບການ inference ນ້ອຍໆ ຫຼື ຍົກລະດັບໄປໃຊ້ໂມເດວ datacenter ທີ່ມີ VRAM ສູງກວ່າ ຖ້າໂມເດວທີ່ບໍ່ໄດ້ quantize ຫຼື ຂະໜາດ batch ຂອງທ່ານເກີນ 40 GB.

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPU	VRAM ຕໍ່ GPU	ສະຖາປັດຕະຍະກຳ	ການຄຳນວນ FP32	ເລີ່ມຕົ້ນ / ຊົ່ວໂມງ	ລາຍລະອຽດ
A100 PCIE	40 GB	Ampere	≈ 15.6 TFLOPS	—
A100 SXM4	40 GB	Ampere	≈ 15.6 TFLOPS	—	ລາຍລະອຽດ
Q RTX 8000	45 GB	Turing	≈ 11.9 TFLOPS	—	ລາຍລະອຽດ
A800 PCIE	80 GB	Ampere	≈ 15.6 TFLOPS	—	ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

A100 PCIE ເໝາະສົມກັບການ inference ແລະ fine-tuning LLM ບໍ?

ແມ່ນແລ້ວ. ດ້ວຍ VRAM 40 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 1313 GB/s ມັນເໝາະສົມກັບການໂຮດ ແລະ fine-tuning ໂມເດວຂະໜາດກາງຫາໃຫຍ່ທີ່ບໍ່ສາມາດໃສ່ໃນ GPU ຜູ້ບໍລິໂພກໄດ້. ທ່ານສາມາດນຳໃຊ້ວຽກງານໄດ້ໄວດ້ວຍເທມເພລດ vLLM, Ollama ຫຼື PyTorch/CUDA ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.

A100 PCIE 40 GB ປຽບທຽບກັບ GPU ລະດັບອື່ນໆແນວໃດ?

ໃນຖານະ GPU datacenter ສະຖາປັດຕະຍະກຳ Ampere ມັນໃຫ້ແບນວິດໜ່ວຍຄວາມຈຳ ແລະ VRAM ສູງກວ່າ GPU workstation ຫຼື GPU ຜູ້ບໍລິໂພກທົ່ວໄປຢ່າງຫຼວງຫຼາຍ. ຖ້າ pipeline ການ training ຫຼື inference ຂອງທ່ານຕ້ອງການຄວາມຈຸໜ່ວຍຄວາມຈຳຫຼາຍກວ່ານີ້ ທ່ານຄວນພິຈາລະນາ GPU datacenter ລຸ້ນທີ່ໃຫຍ່ກວ່າ.

ຈະເຊື່ອມຕໍ່ ແລະ ຕັ້ງຄ່າ instance ຂອງທ່ານຢູ່ ONIE ແນວໃດ?

ທຸກການເຊົ່າມາພ້ອມການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບສຳລັບການຈັດການຜ່ານ command line ໂດຍກົງ. ທ່ານຍັງສາມາດເປີດ instance ດ້ວຍເທມເພລດສຳເລັດຮູບສຳລັບ PyTorch/CUDA, vLLM, Ollama ຫຼື ComfyUI ເພື່ອເລີ່ມເຮັດວຽກໄດ້ທັນທີ.

ການຄິດໄລ່ເງິນສຳລັບ A100 PCIE ເຮັດວຽກແນວໃດ?

instance ຢູ່ ONIE ໃຊ້ການຄິດໄລ່ເງິນຕາມຊົ່ວໂມງ ເຊິ່ງໃຫ້ທ່ານຈ່າຍສະເພາະໄລຍະເວລາທີ່ GPU datacenter ຂອງທ່ານເຮັດວຽກຢູ່.

ເຊົ່າ A100 PCIE ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ A100 PCIE

GPU ທັງໝົດ →