GPU Cloud · NVIDIA · Ampere

ເຊົ່າ GPU NVIDIA RTX 3060 laptop ເປັນລາຍຊົ່ວໂມງ

NVIDIA RTX 3060 laptop ເປັນ GPU ລະດັບຜູ້ບໍລິໂພກ ສ້າງຂຶ້ນດ້ວຍສະຖາປັດຕະຍະກຳ Ampere ແລະ ມີ compute capability 8.6. ມີ VRAM ຂະໜາດ 12 GB, ປະສິດທິພາບການຄຳນວນ single-precision ປະມານ 12.9 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 299 GB/s ພາຍໃນຂອບເຂດພະລັງງານ 80 W. ເທິງ ONIE ທ່ານສາມາດເຊົ່າ GPU ນີ້ໂດຍຄິດຄ່າບໍລິການຕາມຊົ່ວໂມງ, ເຂົ້າເຖິງດ້ວຍ SSH ແລະ ໃຊ້ເທມເພລດທີ່ພ້ອມໃຊ້ງານ ລວມທັງ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI.

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

12 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Ampere

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

8.6

ການຄຳນວນ FP32

≈ 12.9 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 299 GB/s

ຂີດຈຳກັດພະລັງງານ

80 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

RTX 3060 laptop ເໝາະສຳລັບຫຍັງ

ການອະນຸມານ LLM ຂະໜາດກະທັດຮັດ

ຮັນໂມເດວພາສາແບບ quantized ທີ່ຢູ່ໃນຂອບເຂດ VRAM 12 GB ໂດຍໃຊ້ເທມເພລດ Ollama ຫຼື vLLM ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.

ຂັ້ນຕອນການສ້າງຮູບພາບ

ສ້າງຮູບພາບ ແລະ ທົດສອບ diffusion pipeline ໂດຍໃຊ້ເທມເພລດ ComfyUI ໃນ GPU ລະດັບຜູ້ບໍລິໂພກ Ampere.

ການທົດລອງຕົ້ນແບບ ແລະ ດີບັກ PyTorch

ພັດທະນາ ແລະ ທົດສອບໂຄ້ດ machine learning ຜ່ານ SSH ດ້ວຍເທມເພລດ PyTorch/CUDA ແລະ ຮອງຮັບ compute capability 8.6.

ການ Fine-Tuning ໂມເດວຂະໜາດເບົາ

ດຳເນີນການ fine-tuning ແບບປະຢັດພາຣາມິເຕີ ກັບຊຸດຂໍ້ມູນຂະໜາດນ້ອຍ ທີ່ໜ່ວຍຄວາມຈຳ 12 GB ແລະ ແບນວິດປະມານ 299 GB/s ກໍພຽງພໍ.

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

ເລືອກ RTX 3060 laptop ສຳລັບວຽກພັດທະນາ, ທົດສອບ ແລະ inference ລະດັບເບື້ອງຕົ້ນ ທີ່ໃຊ້ VRAM ບໍ່ເກີນ 12 GB ແລະ ບໍ່ຕ້ອງການການໃຊ້ພະລັງງານສູງ. ຖ້າທ່ານຕ້ອງການແບນວິດໜ່ວຍຄວາມຈຳສູງກວ່າ ຫຼື VRAM ຫຼາຍກວ່າສຳລັບໂມເດວຂະໜາດໃຫຍ່ ໃຫ້ເລືອກ GPU desktop ຫຼື datacenter ທີ່ໃຫຍ່ກວ່າ. ຫາກວຽກຂອງທ່ານຕ້ອງການໜ່ວຍຄວາມຈຳກາຟິກໜ້ອຍທີ່ສຸດ ໃຫ້ເລືອກ GPU ທີ່ນ້ອຍກວ່າ.

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPUVRAM ຕໍ່ GPUສະຖາປັດຕະຍະກຳການຄຳນວນ FP32ເລີ່ມຕົ້ນ / ຊົ່ວໂມງລາຍລະອຽດ
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—
RTX 306012 GBAmpere≈ 12 TFLOPS—ລາຍລະອຽດ
Titan Xp12 GBPascal≈ 11.7 TFLOPS—ລາຍລະອຽດ
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

RTX 3060 laptop GPU ເໝາະສົມສຳລັບການ inference LLM ແລະ ການສ້າງຮູບພາບບໍ?

ແມ່ນແລ້ວ. ດ້ວຍ VRAM 12 GB ແລະ compute capability 8.6 ມັນເໝາະສົມກັບການຮັນໂມເດວພາສາແບບ quantized ຂະໜາດນ້ອຍຜ່ານ Ollama ຫຼື vLLM ແລະ ໂມເດວ diffusion ມາດຕະຖານໃນ ComfyUI. ໂມເດວຂະໜາດໃຫຍ່ທີ່ເກີນ 12 GB ຈະຕ້ອງໃຊ້ GPU ທີ່ມີຄວາມຈຸໜ່ວຍຄວາມຈຳສູງກວ່າ.

ລຸ້ນ laptop ນີ້ປຽບທຽບກັບ GPU desktop ແນວໃດ?

ໃນຖານະ GPU laptop ລະດັບຜູ້ບໍລິໂພກທີ່ຈຳກັດພະລັງງານທີ່ 80 W ມັນໃຫ້ປະສິດທິພາບການຄຳນວນ single-precision ປະມານ 12.9 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 299 GB/s ເຊິ່ງຕ່ຳກວ່າ GPU desktop ຫຼື workstation ທີ່ໃຊ້ພະລັງງານເຕັມ. ຢ່າງໃດກໍຕາມ ຄວາມຈຸ VRAM 12 GB ຂອງມັນຍັງໃຫ້ພື້ນທີ່ພຽງພໍສຳລັບວຽກລະດັບເບື້ອງຕົ້ນທີ່ຕິດຂັດກັບໜ່ວຍຄວາມຈຳ.

ການຄິດໄລ່ຄ່າບໍລິການຢູ່ ONIE ເຮັດວຽກແນວໃດ?

ອິນສະແຕນຖືກຄິດຄ່າບໍລິການເປັນລາຍຊົ່ວໂມງ ເຮັດໃຫ້ທ່ານຈ່າຍສະເພາະເວລາທີ່ອິນສະແຕນ RTX 3060 laptop ຂອງທ່ານເປີດໃຊ້ງານເທົ່ານັ້ນ.

ຈະເຊື່ອມຕໍ່ ແລະ ເລີ່ມໃຊ້ວຽກງານຂອງທ່ານແນວໃດ?

ທ່ານສາມາດເຊື່ອມຕໍ່ໂດຍກົງກັບອິນສະແຕນຂອງທ່ານຜ່ານ SSH. ONIE ຍັງມີເທມເພລດທີ່ພ້ອມໃຊ້ງານສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI ເພື່ອໃຫ້ທ່ານເລີ່ມເຮັດວຽກໄດ້ທັນທີ.

ເຊົ່າ RTX 3060 laptop ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ RTX 3060 laptop

GPU ທັງໝົດ →