Question 1

H100 PCIE เหมาะสำหรับการทำ Fine-tuning และ Inference ของ LLM หรือไม่?

Accepted Answer

เหมาะอย่างยิ่ง ด้วย VRAM ขนาด 80 GB และแบนด์วิดท์หน่วยความจำประมาณ 1760 GB/s จึงรองรับการโฮสต์และเทรนโมเดลขนาดใหญ่ได้เป็นอย่างดี คุณสามารถเริ่มต้นได้ทันทีโดยใช้เทมเพลตที่ตั้งค่าไว้ล่วงหน้าสำหรับ PyTorch/CUDA, vLLM หรือ Ollama

Question 2

H100 PCIE แตกต่างจากรุ่น SXM หรือ GPU เวิร์กสเตชันขนาดเล็กอย่างไร?

Accepted Answer

H100 PCIE ทำงานที่ TDP 350 W ซึ่งใช้พลังงานต่ำกว่าและรองรับมาตรฐาน PCIe ทั่วไปเมื่อเทียบกับรุ่นดาต้าเซ็นเตอร์แบบ SXM ที่ใช้กำลังไฟสูงกว่า และเมื่อเทียบกับการ์ดระดับเวิร์กสเตชันหรือระดับผู้บริโภค รุ่นนี้ให้ VRAM มากกว่าอย่างเห็นได้ชัดที่ 80 GB พร้อมแบนด์วิดท์หน่วยความจำที่สูงกว่า

Question 3

GPU รุ่นนี้รองรับซอฟต์แวร์อะไรบ้างและมี Compute Capability เท่าไหร่?

Accepted Answer

เนื่องจากใช้สถาปัตยกรรม NVIDIA Hopper ทำให้ H100 PCIE รองรับ CUDA Compute Capability 9.0 คุณสามารถเปิดใช้งานอินสแตนซ์ด้วยเทมเพลตพร้อมใช้ เช่น PyTorch/CUDA และ ComfyUI หรือกำหนดค่าสแต็กของคุณเองผ่านการเข้าถึงด้วย SSH

Question 4

การเรียกเก็บเงินสำหรับอินสแตนซ์ H100 PCIE บน ONIE คิดอย่างไร?

Accepted Answer

อินสแตนซ์บน ONIE ใช้การเรียกเก็บเงินรายชั่วโมงที่ตรงไปตรงมา คุณจึงจ่ายเฉพาะเวลาที่ GPU ของคุณทำงานอยู่เท่านั้น พร้อมสิทธิ์เข้าถึงผ่าน SSH อย่างเต็มรูปแบบในทุกการใช้งาน

GPU	VRAM ต่อ GPU	สถาปัตยกรรม	ประสิทธิภาพ FP32	เริ่มต้น / ชั่วโมง	รายละเอียด
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—	รายละเอียด
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—	รายละเอียด
RTX A6000	48 GB	Ampere	≈ 36.1 TFLOPS	—	รายละเอียด

เช่า GPU NVIDIA H100 PCIE รายชั่วโมง

ข้อมูลจำเพาะ

VRAM ต่อ GPU

สถาปัตยกรรม

Compute capability

ประสิทธิภาพ FP32

แบนด์วิดท์หน่วยความจำ

ขีดจำกัดพลังงาน

คอนฟิกูเรชันที่พร้อมใช้งาน

เปรียบเทียบกับ GPU ที่ใกล้เคียง

เช่า H100 PCIE รายชั่วโมง