การทำ LLM inference
รันโมเดลที่ใช้พื้นที่ไม่เกิน 32 GB (มักทำ quantization) ด้วย vLLM, SGLang หรือ Ollama
เซิร์ฟเวอร์ RTX 5090 พร้อมหน่วยความจำ GDDR7 ขนาด 32 GB บนสถาปัตยกรรม Blackwell สำหรับการรัน LLM, การสร้างรูปภาพ และการพัฒนาด้วย CUDA ตรวจสอบสเปกและราคาปัจจุบัน แล้วสร้างเซิร์ฟเวอร์ของคุณจากคอนโซล
ONIE ให้บริการเช่าเซิร์ฟเวอร์ GPU NVIDIA RTX 5090 พร้อม GDDR7 VRAM ขนาด 32 GB จากรายการพร้อมใช้งานแบบเรียลไทม์ เลือกเทมเพลตที่สร้างขึ้นสำหรับ CUDA 12.8 ขึ้นไป เช่น PyTorch, vLLM หรือ ComfyUI เลือกขนาดดิสก์ และชำระเงินแบบรายชั่วโมงหรือตามรอบการเรียกเก็บเงิน จากนั้นเชื่อมต่อผ่าน SSH หรือเทอร์มินัลในเบราว์เซอร์
รายการอัปเดตตามจริง: จำนวนที่ว่างและราคาจะเปลี่ยนแปลงตามตลาด คอนโซลจะยืนยันราคาสุดท้ายก่อนที่คุณจะสั่งซื้อ
รันโมเดลที่ใช้พื้นที่ไม่เกิน 32 GB (มักทำ quantization) ด้วย vLLM, SGLang หรือ Ollama
รันเวิร์กโฟลว์ ComfyUI ร่วมกับ Flux, SDXL และโมเดลวิดีโอ
ทำ Fine-tuning แบบ LoRA สำหรับโมเดลขนาดเล็กด้วย Unsloth Studio
Ubuntu 24.04 พร้อม CUDA 13.0 สำหรับสร้างและทดสอบโค้ด GPU
โปรดตรวจสอบ VRAM ขั้นต่ำของเทมเพลตก่อนสั่งซื้อ โมเดลที่มีขนาดใหญ่กว่า 32 GB ต้องใช้การทำ Quantization หรือสเปกแบบหลาย GPU
มี GDDR7 ขนาด 32 GB ต่อ GPU ในการตั้งค่าแบบหลาย GPU แต่ละตัวจะมี VRAM 32 GB แยกกัน
RTX 5090 ใช้สถาปัตยกรรม Blackwell และต้องใช้ CUDA 12.8 ขึ้นไป เทมเพลตสำหรับ RTX 5090 มาพร้อม CUDA 12.8 หรือ 13.0 และจะแสดงเฉพาะเซิร์ฟเวอร์ที่รองรับเท่านั้น
คิดเป็นรายชั่วโมงตามเวลาที่ทำงาน หรือเลือกรอบบิลรายเดือน รายไตรมาส รายครึ่งปี หรือรายปี ส่วนพื้นที่ดิสก์คิดตามจำนวน GB และเซิร์ฟเวอร์รายชั่วโมงที่หยุดแล้วจะคิดเฉพาะค่าดิสก์เท่านั้น
ได้ สำหรับโมเดลที่ใช้ VRAM ไม่เกิน 32 GB (มักใช้ควบคู่กับการทำ quantization) หรือรันโมเดลขนาดใหญ่ขึ้นโดยกระจายไปบนหลาย GPU เมื่อมีตัวเลือกแบบหลาย GPU ให้ใช้งาน
สถานะว่างจะอ้างอิงตามจำนวนเครื่องที่มีอยู่จริงในขณะนั้น คุณสามารถกลับมาตรวจสอบใหม่ภายหลัง หรือเลือก GPU รุ่นอื่นที่มี VRAM เพียงพอในหน้า GPU Cloud