GPU Cloud · NVIDIA · Ampere

ເຊົ່າ GPU NVIDIA RTX 3060 ເປັນລາຍຊົ່ວໂມງ

NVIDIA RTX 3060 ແມ່ນ GPU ລະດັບຜູ້ບໍລິໂພກທີ່ໃຊ້ສະຖາປັດຕະຍະກຳ Ampere, ມີ VRAM 12 GB ແລະ ຂີດຈຳກັດພະລັງງານ 170 W. ມັນໃຫ້ປະສິດທິພາບຈຸດລອຍມາດຕະຖານປະມານ 12.0 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 318 GB/s, ຮອງຮັບ CUDA compute capability 8.6. ຢູ່ ONIE ທ່ານສາມາດເຊົ່າ RTX 3060 ໂດຍຄິດໄລ່ເງິນເປັນລາຍຊົ່ວໂມງ, ມີການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບ ແລະ template ທີ່ພ້ອມໃຊ້ສຳລັບ PyTorch/CUDA, vLLM, Ollama ແລະ ComfyUI.

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

12 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Ampere

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

8.6

ການຄຳນວນ FP32

≈ 12 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 318 GB/s

ຂີດຈຳກັດພະລັງງານ

170 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

RTX 3060 ເໝາະສຳລັບຫຍັງ

ການອະນຸມານ LLM ແບບ Quantized

ລັນໂມເດວພາສາຂະໜາດນ້ອຍ ຫຼື ແບບ quantized ພາຍໃນຂອບເຂດ VRAM 12 GB ດ້ວຍ template Ollama ຫຼື vLLM ທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ.

ການສ້າງຮູບພາບດ້ວຍ ComfyUI

ດຳເນີນ workflow diffusion ມາດຕະຖານ ແລະ pipeline ການສັງເຄາະຮູບພາບ ທີ່ໃຊ້ໜ່ວຍຄວາມຈຳ 12 GB ໄດ້ຢ່າງສະບາຍ.

ການສ້າງຕົ້ນແບບ ແລະ ດີບັກ PyTorch

ພັດທະນາ ແລະ ທົດສອບລະຫັດ CUDA ໃນ GPU Ampere ທີ່ມີ compute capability 8.6 ກ່ອນຈະຂະຫຍາຍວຽກໄປສູ່ຮາດແວທີ່ໃຫຍ່ກວ່າ.

ການ Fine-tune ໂມເດວຂະໜາດນ້ອຍ

ປັບແຕ່ງໂມເດວແບບ parameter-efficient ດ້ວຍຊຸດຂໍ້ມູນຂະໜາດນ້ອຍ ເຊິ່ງປະສິດທິພາບປະມານ 12.0 TFLOPS ກໍພຽງພໍແລ້ວ.

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

ເລືອກ RTX 3060 ສຳລັບການພັດທະນາ, ການສ້າງຕົ້ນແບບ ແລະ ວຽກ inference ນ້ອຍໆ ທີ່ຕ້ອງການ VRAM 12 GB ໂດຍບໍ່ຕ້ອງຈ່າຍຄ່າໃຊ້ຈ່າຍຂອງຮາດແວ datacenter. ເລືອກ GPU ທີ່ໃຫຍ່ກວ່າ ຖ້າໂມເດວຂອງທ່ານເກີນ 12 GB ຫຼື ຕ້ອງການແບນວິດໜ່ວຍຄວາມຈຳສູງກວ່າປະມານ 318 GB/s. ເລືອກ GPU ທີ່ນ້ອຍກວ່າ ຖ້າທ່ານພຽງແຕ່ລັນສະຄຣິບນ້ອຍໆ ທີ່ໃຊ້ໜ່ວຍຄວາມຈຳໜ້ອຍ.

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPUVRAM ຕໍ່ GPUສະຖາປັດຕະຍະກຳການຄຳນວນ FP32ເລີ່ມຕົ້ນ / ຊົ່ວໂມງລາຍລະອຽດ
RTX 306012 GBAmpere≈ 12 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—ລາຍລະອຽດ
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—ລາຍລະອຽດ
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

RTX 3060 ເໝາະສົມກັບການອະນຸມານ LLM ແລະ ການສ້າງຮູບພາບຫຼືບໍ່?

ເໝາະສົມ. VRAM 12 GB ເໝາະກັບການລັນໂມເດວພາສາຂະໜາດນ້ອຍ ຫຼື ແບບ quantized ຜ່ານ Ollama ແລະ vLLM, ແລະ ໂມເດວ diffusion ມາດຕະຖານໃນ ComfyUI. ສຳລັບໂມເດວທີ່ບໍ່ໄດ້ quantized ແລະ ໃຫຍ່ກວ່າ 12 GB ທ່ານຕ້ອງໃຊ້ GPU ທີ່ມີຄວາມຈຸໜ່ວຍຄວາມຈຳສູງກວ່າ.

GPU Ampere ລຸ້ນຜູ້ບໍລິໂພກນີ້ ປຽບທຽບກັບ GPU ທີ່ໃຫຍ່ກວ່າແນວໃດ?

RTX 3060 ໃຫ້ໜ່ວຍຄວາມຈຳ 12 GB ທີ່ກວ້າງຂວາງສຳລັບ GPU ລຸ້ນຜູ້ບໍລິໂພກລະດັບເບື້ອງຕົ້ນ, ພ້ອມດ້ວຍ compute ປະມານ 12.0 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 318 GB/s. ການຍົກລະດັບໄປສູ່ GPU ລຸ້ນຜູ້ບໍລິໂພກທີ່ສູງກວ່າ ຫຼື ລຸ້ນ workstation ຈະໃຫ້ແບນວິດໜ່ວຍຄວາມຈຳ ແລະ ປະສິດທິພາບການຄຳນວນທີ່ໄວກວ່າ ສຳລັບການ training ທີ່ໜັກ.

ຈະເຊື່ອມຕໍ່ ແລະ ຕັ້ງຄ່າອິນສະແຕນ RTX 3060 ແນວໃດ?

ທຸກການເຊົ່າຢູ່ ONIE ມີການເຂົ້າເຖິງ SSH ໂດຍກົງ ເພື່ອໃຫ້ທ່ານຄວບຄຸມ command line ໄດ້ເຕັມທີ່. ທ່ານຍັງສາມາດເລີ່ມໃຊ້ງານທັນທີດ້ວຍ template ທີ່ພ້ອມໃຊ້ສຳລັບ PyTorch/CUDA, vLLM, Ollama ຫຼື ComfyUI.

ການຄິດໄລ່ເງິນສຳລັບ RTX 3060 ຢູ່ ONIE ເຮັດວຽກແນວໃດ?

ອິນສະແຕນຖືກຄິດໄລ່ເງິນເປັນລາຍຊົ່ວໂມງ ຕາບໃດທີ່ການເຊົ່າຂອງທ່ານຍັງເຮັດວຽກຢູ່. ສິ່ງນີ້ຊ່ວຍໃຫ້ທ່ານທົດລອງບົນ GPU ສະຖາປັດຕະຍະກຳ Ampere ທີ່ມີ compute capability 8.6 ແລະ ປິດອິນສະແຕນເມື່ອສຳເລັດແລ້ວ.

ເຊົ່າ RTX 3060 ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ RTX 3060

GPU ທັງໝົດ →