ເຊົ່າ GPU NVIDIA RTX 3080 Ti ເປັນລາຍຊົ່ວໂມງ
RTX 3080 Ti ເປັນ GPU ສຳລັບຜູ້ບໍລິໂພກ ໃນສະຖາປັດຕະຍະກຳ Ampere ມີ VRAM ຂະໜາດ 12 GB ແລະ TDP 350 W. ໃນ ONIE ມັນໃຫ້ປະສິດທິພາບການຄຳນວນ floating-point ມາດຕະຖານປະມານ 35.1 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 787 GB/s. ດ້ວຍ CUDA compute capability 8.6, GPU ນີ້ຮອງຮັບວຽກ machine learning ລະດັບກາງ, ການ inference ແລະ ການເຣນເດີງານສ້າງສັນ.
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
RTX 3080 Ti ເໝາະສຳລັບຫຍັງ
ການ Inference LLM ແບບ Quantized
ຮັນໂມເດລພາສາຂະໜາດນ້ອຍ ແລະ ແບບ quantized ພາຍໃນງົບ VRAM 12 GB ໂດຍໃຊ້ເທມເພລດສຳເລັດຮູບເຊັ່ນ Ollama ຫຼື vLLM.
ການສ້າງຮູບພາບດ້ວຍ ComfyUI
ສ້າງຮູບພາບ ແລະ ທົດສອບ diffusion pipeline ໂດຍໃຊ້ເທມເພລດ ComfyUI ໂດຍອາໄສແບນວິດໜ່ວຍຄວາມຈຳປະມານ 787 GB/s ໃນການປະມວນຜົນ prompt.
ການສ້າງ Prototype ໂມເດລດ້ວຍ PyTorch
ພັດທະນາ, debug ແລະ ຝຶກໂມເດລ neural network ຂະໜາດນ້ອຍຫາປານກາງດ້ວຍ PyTorch ແລະ CUDA ໃນ GPU Ampere ທີ່ມີ compute capability 8.6.
ການເຣນເດີດ້ວຍການເລັ່ງ GPU
ໃຊ້ປະສິດທິພາບການຄຳນວນປະມານ 35.1 TFLOPS ໃນການເຣນເດີ scene ແລະ bake texture ທີ່ພໍດີກັບໜ່ວຍຄວາມຈຳ 12 GB.
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
RTX 3080 Ti ເໝາະສຳລັບນັກພັດທະນາ ແລະ ຜູ້ສ້າງສັນທີ່ຕ້ອງການປະສິດທິພາບການຄຳນວນ Ampere ທີ່ແຮງສຳລັບວຽກທີ່ພໍດີກັບ VRAM 12 GB ຢ່າງສະບາຍ. ເລືອກ GPU ຮຸ່ນນ້ອຍກວ່າ ຖ້າຕ້ອງການພຽງແຕ່ scripting ພື້ນຖານ ຫຼື inference ນ້ອຍໆ, ຫຼື ຍົກລະດັບໄປໃຊ້ GPU ທີ່ມີ VRAM ຫຼາຍກວ່າ ຖ້າທ່ານຕ້ອງ fine-tune ໂມເດລຂະໜາດໃຫຍ່ ຫຼື ໂຫຼດນ້ຳໜັກທີ່ບໍ່ໄດ້ quantize.
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
RTX 3080 Ti ເໝາະກັບການ inference LLM ແລະ fine-tuning ບໍ?
ດ້ວຍ VRAM 12 GB ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 787 GB/s ມັນເໝາະດີສຳລັບການຮັນໂມເດລພາສາຂະໜາດນ້ອຍ ຫຼື ແບບ quantized ຜ່ານ Ollama ຫຼື vLLM. ສຳລັບ full fine-tuning ຫຼື ການຮັນໂມເດລຂະໜາດໃຫຍ່ທີ່ບໍ່ໄດ້ quantize ແນະນຳໃຫ້ໃຊ້ GPU ທີ່ມີຄວາມຈຸ VRAM ຫຼາຍກວ່າ.
RTX 3080 Ti ປຽບທຽບກັບ GPU ຜູ້ບໍລິໂພກ Ampere ອື່ນໆແນວໃດ?
RTX 3080 Ti ຢູ່ລະຫວ່າງ RTX 3080 ມາດຕະຖານ ແລະ ລຸ້ນທີ່ມີໜ່ວຍຄວາມຈຳສູງກວ່າໃນສາຍ Ampere ໂດຍມີ VRAM 12 GB ແລະ ປະສິດທິພາບການຄຳນວນປະມານ 35.1 TFLOPS. ຖ້າວຽກຂອງທ່ານຖືກຈຳກັດດ້ວຍການຄຳນວນ ແລະ ພໍດີກັບ 12 GB ມັນໃຫ້ throughput ທີ່ແຮງໂດຍບໍ່ຕ້ອງຍົກລະດັບໄປໃຊ້ລຸ້ນທີ່ມີໜ່ວຍຄວາມຈຳສູງກວ່າ.
ຈະເຊື່ອມຕໍ່ກັບ instance RTX 3080 Ti ຢູ່ ONIE ແນວໃດ?
ທ່ານສາມາດເຊື່ອມຕໍ່ໂດຍກົງຜ່ານ SSH ເມື່ອ instance ເລີ່ມເຮັດວຽກແລ້ວ. ONIE ຍັງມີເທມເພລດທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI ເພື່ອໃຫ້ທ່ານເລີ່ມເຮັດວຽກໄດ້ທັນທີ.
ການຄິດເງິນສຳລັບ GPU ນີ້ເຮັດວຽກແນວໃດ?
Instance ຢູ່ ONIE ຄິດເງິນເປັນລາຍຊົ່ວໂມງ. ທ່ານຈະຖືກຄິດເງິນສະເພາະໄລຍະເວລາທີ່ instance RTX 3080 Ti ຂອງທ່ານເຮັດວຽກຢູ່ເທົ່ານັ້ນ.
ເຊົ່າ RTX 3080 Ti ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ RTX 3080 Ti