ເຊົ່າ GPU NVIDIA RTX 3080 ເປັນລາຍຊົ່ວໂມງ
NVIDIA RTX 3080 เป็น GPU ระดับผู้ใช้ทั่วไปที่ใช้สถาปัตยกรรม Ampere พร้อม VRAM ขนาด 10 GB ให้ประสิทธิภาพการคำนวณ floating-point มาตรฐานประมาณ 29.5 TFLOPS และแบนด์วิดท์หน่วยความจำประมาณ 656 GB/s บน ONIE คุณสามารถ deploy GPU นี้พร้อมการเรียกเก็บเงินรายชั่วโมง การเข้าถึง SSH และ templates ที่พร้อมใช้งาน
ຂໍ້ມູນຈຳເພາະ
VRAM ຕໍ່ GPU
ສະຖາປັດຕະຍະກຳ
ຄວາມສາມາດໃນການຄຳນວນ (Compute capability)
ການຄຳນວນ FP32
ແບນວິດໜ່ວຍຄວາມຈຳ
ຂີດຈຳກັດພະລັງງານ
ຄ່າທີ່ຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານລາຍງານສຳລັບເຄື່ອງທີ່ແສດງຢູ່ໃນປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການຕັ້ງຄ່າທີ່ມີໃຫ້ບໍລິການ
ສະຕັອກ ແລະ ລາຄາອັບເດດແບບສົດຢ່າງຕໍ່ເນື່ອງ. ລາຄາສຸດທ້າຍຈະຖືກຢືນຢັນກ່ອນທ່ານສັ່ງຊື້.
ກຳລັງໂຫຼດລາຄາແບບສົດ…
RTX 3080 ເໝາະສຳລັບຫຍັງ
การ Inference LLM ขนาดกะทัดรัด
รันโมเดลภาษาที่ผ่านการ quantized ซึ่งใส่ใน VRAM 10 GB ได้ โดยใช้ templates Ollama หรือ vLLM ที่ตั้งค่าไว้ล่วงหน้า
ขั้นตอนการสร้างภาพ
ประมวลผล diffusion pipelines ใน ComfyUI โดยใช้แบนด์วิดท์หน่วยความจำประมาณ 656 GB/s เพื่อให้ได้ผลลัพธ์ภาพที่ต่อเนื่องและเสถียร
การสร้างต้นแบบโมเดลด้วย PyTorch
พัฒนาและทดสอบโค้ด deep learning บน GPU Ampere ที่มี compute capability 8.6 ก่อนขยายขนาด
งานคำนวณด้วย CUDA
เร่งความเร็วงานแบบกำหนดเองที่ใช้ประสิทธิภาพ floating-point มาตรฐานประมาณ 29.5 TFLOPS
ນີ້ເປັນ GPU ທີ່ເໝາະສົມກັບທ່ານບໍ?
เลือก RTX 3080 สำหรับการสร้างต้นแบบ การสร้างภาพ และ inference ขนาดเล็ก เมื่อ VRAM 10 GB และการคำนวณ Ampere ที่แรงเพียงพอ เลือก GPU ที่มีหน่วยความจำมากกว่าหากโมเดลหรือ batch size ของคุณเกิน 10 GB หรือเลือกการ์ดผู้ใช้ทั่วไปรุ่นสเปกต่ำกว่าสำหรับสคริปต์น้ำหนักเบาที่ไม่ต้องการประสิทธิภาพประมาณ 29.5 TFLOPS
ປຽບທຽບກັບ GPU ທີ່ຄ້າຍກັນ
ຄຳຖາມທີ່ພົບເລື້ອຍ
RTX 3080 เหมาะกับ inference LLM และการสร้างภาพหรือไม่?
เหมาะ VRAM 10 GB และแบนด์วิดท์หน่วยความจำประมาณ 656 GB/s รองรับการสร้างภาพมาตรฐานใน ComfyUI และโมเดลภาษาที่ผ่านการ quantized ผ่าน Ollama หรือ vLLM โมเดลขนาดใหญ่ที่ไม่ได้ quantized จะต้องใช้ GPU ที่มีความจุหน่วยความจำสูงกว่า
มี software templates อะไรบ้างสำหรับ RTX 3080 บน ONIE?
คุณสามารถเปิด instances ด้วย templates ที่พร้อมใช้งานสำหรับ PyTorch/CUDA, vLLM, Ollama และ ComfyUI GPU นี้รองรับ compute capability 8.6 เพื่อความเข้ากันได้อย่างกว้างขวางกับ machine learning frameworks สมัยใหม่
เมื่อใดควรยกระดับจาก RTX 3080 ไปใช้ GPU ที่ใหญ่กว่า?
RTX 3080 ให้ประสิทธิภาพการคำนวณระดับผู้ใช้ทั่วไปที่แรงประมาณ 29.5 TFLOPS ภายในกรอบพลังงาน 380 W แต่จำกัดอยู่ที่ VRAM 10 GB หาก training batches หรือน้ำหนักโมเดลของคุณทำให้เกิดข้อผิดพลาด out-of-memory GPU ระดับ workstation หรือ datacenter ที่มีบัฟเฟอร์หน่วยความจำขนาดใหญ่กว่าคือทางเลือกที่เหมาะสม
การเรียกเก็บเงินและการเข้าถึงบน ONIE ทำงานอย่างไร?
Instances จะถูกเรียกเก็บเงินตามชั่วโมงขณะที่กำลังทำงาน คุณจะได้รับการเข้าถึง SSH แบบเต็มรูปแบบเพื่อจัดการสภาพแวดล้อมของคุณ พร้อมกับ web interfaces ใดๆ ที่ template ที่คุณเลือกจัดเตรียมไว้ให้
ເຊົ່າ RTX 3080 ເປັນຊົ່ວໂມງ
ສ້າງບັນຊີ, ເລືອກການຕັ້ງຄ່າ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH. ການຄິດໄລ່ຄ່າບໍລິການຈະຢຸດເມື່ອທ່ານລຶບ GPU.
ເຊົ່າ RTX 3080