GPU Cloud · NVIDIA · Ampere

ເຊົ່າ GPU NVIDIA A800 PCIE ເປັນລາຍຊົ່ວໂມງ

NVIDIA A800 PCIE เป็น GPU สำหรับ datacenter ที่ใช้สถาปัตยกรรม Ampere มี VRAM ขนาด 80 GB ให้แบนด์วิดท์หน่วยความจำประมาณ 1598 GB/s และประสิทธิภาพ single-precision ประมาณ 15.6 TFLOPS ภายในพลังงาน 300 W ใน ONIE คุณสามารถนำ GPU นี้ไปใช้ด้วยการคิดค่าบริการรายชั่วโมง การเข้าถึง SSH แบบเต็มรูปแบบ และเทมเพลตสำเร็จรูปสำหรับ PyTorch/CUDA, vLLM, Ollama และ ComfyUI

ຂໍ້ມູນຈຳເພາະ

VRAM ຕໍ່ GPU

80 GB

ສະຖາປັດຕະຍະກຳ

NVIDIA Ampere

ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)

8.0

ການຄຳນວນ FP32

≈ 15.6 TFLOPS

ແບນວິດໜ່ວຍຄວາມຈຳ

≈ 1,598 GB/s

ຂີດຈຳກັດພະລັງງານ

300 W

ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.

ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ

ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.

ກຳລັງໂຫຼດລາຄາແບບສົດ…

A800 PCIE ເໝາະສຳລັບຫຍັງ

การอนุมาน LLM

โฮสต์ LLM ทั้งหมดใน VRAM ขนาด 80 GB โดยใช้เทมเพลต vLLM หรือ Ollama ที่ตั้งค่าไว้ล่วงหน้า

การ Fine-Tuning Deep Learning

ฝึกและปรับแต่งโมเดลด้วย batch size ขนาดใหญ่และ context window ที่ยาวใน PyTorch/CUDA โดยไม่ติดขัดกับข้อจำกัดด้านหน่วยความจำ

การประมวลผล Batch ที่มีปริมาณงานสูง

ใช้แบนด์วิดท์หน่วยความจำประมาณ 1598 GB/s เพื่อประมวลผลงาน neural network และ embeddings ที่ใช้ข้อมูลจำนวนมาก

เวิร์กโฟลว์ Generative ที่ซับซ้อน

รัน pipeline diffusion หลายโมเดลใน ComfyUI โดยโหลด checkpoint หลายตัวไว้ในหน่วยความจำพร้อมกัน

ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?

เลือก A800 PCIE เมื่อความต้องการหลักของคุณคือความจุหน่วยความจำ 80 GB สำหรับโมเดล AI ขนาดใหญ่ มากกว่าการเน้นประสิทธิภาพการคำนวณ single-precision ดิบ หากงานของคุณใช้หน่วยความจำน้อยกว่า workstation หรือ GPU สำหรับผู้บริโภคที่มี VRAM ต่ำกว่าจะเหมาะสมกว่า ส่วนงานที่จำกัดด้วยการคำนวณอาจได้ประโยชน์จากสถาปัตยกรรม datacenter รุ่นใหม่กว่า

ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ

GPUVRAM ຕໍ່ GPUສະຖາປັດຕະຍະກຳການຄຳນວນ FP32ເລີ່ມຕົ້ນ / ຊົ່ວໂມງລາຍລະອຽດ
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—
CMP 170HX64 GBAmpere≈ 12.1 TFLOPS—ລາຍລະອຽດ
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—ລາຍລະອຽດ
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—ລາຍລະອຽດ

ຄຳຖາມທີ່ພົບເລື້ອຍ

NVIDIA A800 PCIE เหมาะกับงาน large language model หรือไม่?

เหมาะ VRAM 80 GB และแบนด์วิดท์หน่วยความจำประมาณ 1598 GB/s ทำให้เหมาะกับการให้บริการและ fine-tuning LLM ที่มีขนาดเกินความจุของ GPU สำหรับผู้บริโภคทั่วไป รองรับ CUDA compute capability 8.0 จึงเข้ากันได้กับ AI framework สมัยใหม่อย่างกว้างขวาง

GPU นี้เทียบกับโมเดล datacenter ที่เล็กกว่าหรือใหม่กว่าอย่างไร?

A800 PCIE มีหน่วยความจำขนาดใหญ่ 80 GB บนสถาปัตยกรรม Ampere ซึ่งเหมาะกับงานที่จำกัดด้วยหน่วยความจำเมื่อเทียบกับ GPU ที่มีความจุน้อยกว่า อย่างไรก็ตาม ด้วยประสิทธิภาพ single-precision ประมาณ 15.6 TFLOPS งานที่พึ่งพาการคำนวณดิบมากกว่าความจุหน่วยความจำอาจทำงานได้เร็วขึ้นบนสถาปัตยกรรมรุ่นใหม่กว่า

ฉันจะเชื่อมต่อและตั้งค่า instance A800 PCIE ของฉันอย่างไร?

ทุก instance บน ONIE มาพร้อมการเข้าถึง SSH โดยตรง เพื่อควบคุมสภาพแวดล้อมของคุณได้อย่างเต็มที่ นอกจากนี้ คุณยังเริ่มใช้งานได้ทันทีด้วยเทมเพลตสำเร็จรูปสำหรับ PyTorch/CUDA, vLLM, Ollama และ ComfyUI

การคิดค่าบริการสำหรับการเช่า A800 PCIE เป็นอย่างไร?

ONIE ใช้การคิดค่าบริการรายชั่วโมงที่ตรงไปตรงมาสำหรับ GPU instance ทั้งหมด คุณจ่ายเฉพาะช่วงเวลาที่ instance ของคุณทำงานอยู่ ทำให้สามารถปรับขนาดการใช้งานคอมพิวต์ของ datacenter ได้ตามต้องการ

ເຊົ່າ A800 PCIE ເປັນຊົ່ວໂມງ

ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.

ເຊົ່າ A800 PCIE

GPU ທັງໝົດ →