Question 1

Tesla V100 ขนาด 16 GB เหมาะสำหรับการทำ LLM Inference และ Fine-tuning หรือไม่

Accepted Answer

ด้วย VRAM ขนาด 16 GB และแบนด์วิดท์หน่วยความจำประมาณ 780 GB/s ทำให้ Tesla V100 เหมาะสำหรับการทำ Inference บนโมเดลภาษาขนาดเล็กหรือแบบ Quantized รวมถึงการทำ Fine-tuning แบบประหยัดพารามิเตอร์ (PEFT) สำหรับโมเดลขนาดใหญ่ที่เกินความจุหน่วยความจำ 16 GB คุณควรเลือก GPU ที่มีความจุ VRAM สูงกว่านี้

Question 2

มีเทมเพลตซอฟต์แวร์และวิธีการเชื่อมต่อใดบ้างบน ONIE

Accepted Answer

ทุกอินสแตนซ์ของ Tesla V100 มาพร้อมการเข้าถึงผ่าน SSH โดยตรงสำหรับการตั้งค่าแบบกำหนดเองและเวิร์กโฟลว์แบบคอมมานด์ไลน์ นอกจากนี้คุณยังสามารถเปิดใช้งานเทมเพลตสำเร็จรูปอย่าง PyTorch/CUDA, vLLM, Ollama และ ComfyUI เพื่อเริ่มทำงานได้ทันที

Question 3

สถาปัตยกรรม Volta ส่งผลต่อความเข้ากันได้กับเฟรมเวิร์กอย่างไร

Accepted Answer

Tesla V100 รองรับ CUDA Compute Capability 7.0 ซึ่งเข้ากันได้กับเฟรมเวิร์ก Deep Learning มาตรฐานอย่าง PyTorch อย่างไรก็ตาม เวิร์กโหลดที่จำเป็นต้องใช้ฟีเจอร์เฉพาะที่มีใน Compute Capability รุ่นใหม่กว่า จะต้องใช้สถาปัตยกรรม GPU ที่ใหม่กว่านี้

Question 4

การเรียกเก็บเงินสำหรับการเช่าใช้ Tesla V100 มีรูปแบบอย่างไร

Accepted Answer

ONIE คิดค่าบริการรายชั่วโมงอย่างตรงไปตรงมาสำหรับการเช่าใช้ Tesla V100 ทั้งหมด คุณจ่ายเฉพาะช่วงเวลาที่อินสแตนซ์ของคุณเปิดใช้งานอยู่เท่านั้น ช่วยให้คุณรันการทดลองหรือประมวลผลแบบแบตช์ และลบเซิร์ฟเวอร์ทิ้งเมื่อทำงานเสร็จ

GPU	VRAM ต่อ GPU	สถาปัตยกรรม	ประสิทธิภาพ FP32	เริ่มต้น / ชั่วโมง	รายละเอียด
Tesla V100	16 GB	Volta	≈ 12.5 TFLOPS	—
RTX 3060 laptop	12 GB	Ampere	≈ 12.9 TFLOPS	—	รายละเอียด
RTX 3060	12 GB	Ampere	≈ 12 TFLOPS	—	รายละเอียด
Titan Xp	12 GB	Pascal	≈ 11.7 TFLOPS	—	รายละเอียด

เช่า GPU NVIDIA Tesla V100 รายชั่วโมง

ข้อมูลจำเพาะ

VRAM ต่อ GPU

สถาปัตยกรรม

Compute capability

ประสิทธิภาพ FP32

แบนด์วิดท์หน่วยความจำ

ขีดจำกัดพลังงาน

คอนฟิกูเรชันที่พร้อมใช้งาน

เปรียบเทียบกับ GPU ที่ใกล้เคียง

เช่า Tesla V100 รายชั่วโมง