ເຊົ່າ GPU NVIDIA CMP 170HX ເປັນລາຍຊົ່ວໂມງ
NVIDIA CMP 170HX เป็น GPU สำหรับ datacenter สถาปัตยกรรม Ampere มาพร้อม VRAM 64 GB และ TDP 250 W ให้แบนด์วิดท์หน่วยความจำประมาณ 1516 GB/s พร้อมประสิทธิภาพการคำนวณ single-precision ประมาณ 12.1 TFLOPS ที่ compute capability 8.0 บน ONIE คุณสามารถใช้งาน GPU นี้ด้วยการเรียกเก็บเงินรายชั่วโมง การเข้าถึง SSH แบบเต็มรูปแบบ และ template ที่พร้อมใช้งานสำหรับ PyTorch/CUDA, vLLM, Ollama และ ComfyUI
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
CMP 170HX ເໝາະສຳລັບຫຍັງ
การอนุมาน LLM ที่จำกัดด้วยหน่วยความจำ
ให้บริการ LLM ผ่าน vLLM หรือ Ollama โดยใช้ประโยชน์จากความจุ VRAM 64 GB และแบนด์วิดท์หน่วยความจำประมาณ 1516 GB/s
Deep Learning ที่ต้องการหน่วยความจำสูง
รันงาน PyTorch/CUDA ที่ต้องการความจุหน่วยความจำมากและ compute capability 8.0 โดยไม่ต้องแบ่งโมเดลไปยังอุปกรณ์หลายตัว
เวิร์กโฟลว์การสร้างภาพที่ซับซ้อน
โหลด diffusion checkpoint ขนาดใหญ่หลายตัวและ control net พร้อมกันใน ComfyUI ภายในหน่วยความจำ 64 GB
การประมวลผลข้อมูลและการจำลอง
รันงาน datacenter ที่ใช้หน่วยความจำมาก และได้ประโยชน์จากปริมาณงานหน่วยความจำที่สูง ภายในกรอบพลังงาน 250 W
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
เลือก CMP 170HX เมื่อเวิร์กโหลดของคุณถูกจำกัดด้วยความจุและแบนด์วิดท์หน่วยความจำ มากกว่าประสิทธิภาพการคำนวณ single-precision ดิบ เลือก GPU ที่มีประสิทธิภาพการคำนวณสูงกว่าหากคุณต้องการรอบการฝึกโมเดลที่เร็วขึ้น หรือเลือกการ์ดรุ่น consumer ที่เล็กกว่าหากโมเดลของคุณไม่จำเป็นต้องใช้ VRAM 64 GB
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
CMP 170HX เหมาะกับการอนุมาน LLM หรือไม่
เหมาะ ความจุ VRAM 64 GB และแบนด์วิดท์หน่วยความจำประมาณ 1516 GB/s ทำให้เหมาะกับการโหลดและให้บริการ LLM ขนาดใหญ่ด้วย template เช่น vLLM และ Ollama อย่างไรก็ตาม เนื่องจากมีประสิทธิภาพการคำนวณ single-precision ประมาณ 12.1 TFLOPS การประมวลผล prompt จะช้ากว่า GPU datacenter ที่มีความหนาแน่นในการคำนวณสูงกว่า
GPU นี้เปรียบเทียบกับ accelerator datacenter มาตรฐานอย่างไร
CMP 170HX มีบัฟเฟอร์หน่วยความจำขนาด 64 GB และแบนด์วิดท์หน่วยความจำสูงใกล้เคียงกับการ์ด datacenter Ampere มาตรฐาน โดยทำงานที่ TDP 250 W ข้อจำกัดหลักคือประสิทธิภาพการคำนวณที่ต่ำกว่า ประมาณ 12.1 TFLOPS ทำให้เหมาะกับงานที่จำกัดด้วยหน่วยความจำมากกว่างานคำนวณหนัก
มีสภาพแวดล้อมซอฟต์แวร์ใดบ้างสำหรับ GPU นี้
GPU นี้รองรับ CUDA compute capability 8.0 และสามารถเปิดใช้งานบน ONIE ด้วย template ที่ตั้งค่าไว้ล่วงหน้า ได้แก่ PyTorch/CUDA, vLLM, Ollama และ ComfyUI นอกจากนี้คุณยังได้รับการเข้าถึง SSH โดยตรงเพื่อติดตั้งไลบรารีที่กำหนดเองและจัดการสภาพแวดล้อมของคุณ
การเรียกเก็บเงินทำงานอย่างไรเมื่อเช่า CMP 170HX
อินสแตนซ์บน ONIE ใช้การเรียกเก็บเงินรายชั่วโมง ดังนั้นคุณจ่ายเฉพาะระยะเวลาที่ GPU ของคุณยังทำงานอยู่
ເຊົ່າ CMP 170HX ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ CMP 170HX