ເຊົ່າ GPU NVIDIA L40S ເປັນລາຍຊົ່ວໂມງ
NVIDIA L40S ເປັນ GPU ສຳລັບດາຕ້າເຊັນເຕີໃນສະຖາປັດຕະຍະກຳ Ada Lovelace ທີ່ໃຫ້ເຊົ່າໃຊ້ໃນຄລາວ໌ເທິງ ONIE ມີ VRAM 45 GB, ປະສິດທິພາບການຄິດໄລ່ single-precision ປະມານ 73.3 TFLOPS ແລະ ແບນວິດໜ່ວຍຄວາມຈຳປະມານ 626 GB/s ພາຍໃນກຳລັງໄຟ 350 W ຮອງຮັບ CUDA compute capability 8.9 ອິນສະແຕນສ໌ນີ້ຮອງຮັບວຽກ AI ແລະ ກຣາຟິກທີ່ຕ້ອງການປະສິດທິພາບສູງ ທັງການຝຶກໂມເດວ, ການອະນຸມານ ແລະ ອື່ນໆ ໂດຍຄິດຄ່າບໍລິການເປັນລາຍຊົ່ວໂມງ
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
L40S ເໝາະສຳລັບຫຍັງ
ການອະນຸມານໂມເດວພາສາຂະໜາດໃຫຍ່ (LLM)
ນຳໃຊ້ໂມເດວພາສາທີ່ quantize ແລ້ວ ຫຼື ແບບຄວາມແມ່ນຍຳເຕັມ ໂດຍໃຊ້ເທມເພລດສຳເລັດຮູບ ເຊັ່ນ vLLM ແລະ Ollama ພາຍໃນຄວາມຈຸໜ່ວຍຄວາມຈຳ 45 GB
ເວີກໂຟລ໌ການສ້າງຮູບພາບ
ລັນ diffusion pipeline ທີ່ຊັບຊ້ອນ ແລະ ວຽກສ້າງຮູບພາບເປັນຊຸດໃນ ComfyUI ໂດຍໃຊ້ສະຖາປັດຕະຍະກຳ Ada Lovelace
ການ Fine-Tuning ໂມເດວ Deep Learning
ປັບແຕ່ງ neural network ແລະ LoRA adapter ໃນສະພາບແວດລ້ອມ PyTorch/CUDA ໂດຍໃຊ້ຄວາມສາມາດຄິດໄລ່ປະມານ 73.3 TFLOPS
ກຣາຟິກ ແລະ ການເຣນເດີຣະດັບດາຕ້າເຊັນເຕີ
ປະຕິບັດການເຣນເດີ ແລະ ການຈຳລອງແບບ headless ທີ່ໄດ້ປະໂຫຍດຈາກ GPU ລະດັບດາຕ້າເຊັນເຕີ ທີ່ມີແບນວິດໜ່ວຍຄວາມຈຳປະມານ 626 GB/s
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
ເລືອກ L40S ເມື່ອວຽກຂອງທ່ານຕ້ອງການ VRAM 45 GB ແລະ ຄວາມໜ້າເຊື່ອຖືລະດັບດາຕ້າເຊັນເຕີ ທີ່ເໜືອກວ່າ GPU ສຳລັບຜູ້ບໍລິໂພກທົ່ວໄປ ຖ້າໂມເດວຂອງທ່ານໃຊ້ໜ່ວຍຄວາມຈຳໜ້ອຍກວ່ານັ້ນ, workstation ຫຼື GPU ສຳລັບຜູ້ບໍລິໂພກຂະໜາດນ້ອຍກວ່າຈະປະຢັດກວ່າ ໃນຂະນະທີ່ໂມເດວພື້ນຖານຂະໜາດໃຫຍ່ທີ່ບໍ່ໄດ້ quantize ຕ້ອງການ GPU ລະດັບດາຕ້າເຊັນເຕີທີ່ມີໜ່ວຍຄວາມຈຳໃຫຍ່ກວ່າ
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
NVIDIA L40S ເໝາະສົມກັບການອະນຸມານ LLM ແລະ fine-tuning ບໍ?
ເໝາະສົມ. ດ້ວຍ VRAM 45 GB ແລະ CUDA compute capability 8.9, L40S ເໝາະກັບການໃຫ້ບໍລິການໂມເດວພາສາຂະໜາດກາງຫາໃຫຍ່ ແລະ ການ fine-tuning ແບບ parameter-efficient ທ່ານສາມາດເປີດອິນສະແຕນສ໌ດ້ວຍເທມເພລດທີ່ຕັ້ງຄ່າໄວ້ລ່ວງໜ້າ ເຊັ່ນ vLLM, Ollama ຫຼື PyTorch/CUDA
L40S ປຽບທຽບກັບ GPU ສຳລັບຜູ້ບໍລິໂພກ ຫຼື GPU ດາຕ້າເຊັນເຕີທີ່ໃຫຍ່ກວ່າແນວໃດ?
L40S ມີ VRAM ຫຼາຍກວ່າ GPU Ada Lovelace ສຳລັບຜູ້ບໍລິໂພກທົ່ວໄປ ເຮັດໃຫ້ສາມາດເກັບນໍ້າໜັກໂມເດວທີ່ໃຫຍ່ກວ່າໄດ້ໂດຍບໍ່ຕ້ອງ offload ແຕ່ແບນວິດໜ່ວຍຄວາມຈຳຕ່ຳກວ່າ GPU ດາຕ້າເຊັນເຕີທີ່ມີໜ່ວຍຄວາມຈຳສູງ ແລະ ເນັ້ນສະເພາະການຄິດໄລ່ ເຊິ່ງເໝາະກວ່າສຳລັບວຽກ training ຂະໜາດໃຫຍ່ທີ່ຕິດຂັດດ້ານແບນວິດໜ່ວຍຄວາມຈຳ
ຈະເຊື່ອມຕໍ່ ແລະ ຕັ້ງຄ່າອິນສະແຕນສ໌ L40S ຂອງທ່ານໃນ ONIE ແນວໃດ?
ທ່ານຈະໄດ້ຮັບການເຂົ້າເຖິງ SSH ເຕັມຮູບແບບໄປຍັງສະພາບແວດລ້ອມຂອງທ່ານທັນທີທີ່ອິນສະແຕນສ໌ເລີ່ມເຮັດວຽກ ທ່ານຍັງສາມາດເລືອກເທມເພລດສຳເລັດຮູບ ລວມທັງ PyTorch/CUDA, ComfyUI, vLLM ແລະ Ollama ເພື່ອເລີ່ມເຮັດວຽກໄດ້ທັນທີ
ການເກັບເງິນສຳລັບ L40S ເຮັດວຽກແນວໃດ?
ONIE ໃຊ້ການເກັບເງິນເປັນລາຍຊົ່ວໂມງສຳລັບການເຊົ່າ L40S ທັງໝົດ ທ່ານຈ່າຍພຽງແຕ່ໄລຍະເວລາທີ່ອິນສະແຕນສ໌ຂອງທ່ານຖືກຈັດສັນເທົ່ານັ້ນ
ເຊົ່າ L40S ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ L40S