Suy luận LLM
Chạy mô hình vừa 32 GB (thường là bản lượng tử hoá) với vLLM, SGLang hoặc Ollama.
Máy chủ RTX 5090 với 32 GB bộ nhớ GDDR7, kiến trúc Blackwell, cho suy luận LLM, tạo ảnh và phát triển CUDA. Xem cấu hình và giá đang có rồi tạo máy ngay trên bảng điều khiển.
ONIE cho thuê máy chủ GPU NVIDIA RTX 5090 với 32 GB VRAM GDDR7 từ kho đang có. Chọn template hỗ trợ CUDA 12.8 trở lên như PyTorch, vLLM hay ComfyUI, chọn dung lượng ổ đĩa, thanh toán theo giờ hoặc theo chu kỳ, rồi kết nối qua SSH hoặc terminal trên trình duyệt.
Kho GPU cập nhật liên tục: số lượng và giá thay đổi theo thị trường. Bảng điều khiển xác nhận giá cuối cùng trước khi bạn đặt.
Chạy mô hình vừa 32 GB (thường là bản lượng tử hoá) với vLLM, SGLang hoặc Ollama.
Quy trình ComfyUI với Flux, SDXL và các mô hình video.
Fine-tune kiểu LoRA cho mô hình nhỏ bằng Unsloth Studio.
Ubuntu 24.04 kèm CUDA 13.0 để build và thử mã GPU.
Kiểm tra VRAM tối thiểu của template trước khi đặt; mô hình lớn hơn 32 GB cần lượng tử hoá hoặc cấu hình nhiều GPU.
32 GB GDDR7 mỗi GPU. Ở cấu hình nhiều GPU, mỗi GPU có 32 GB riêng.
RTX 5090 dùng kiến trúc Blackwell, cần CUDA 12.8 trở lên. Template RTX 5090 dùng CUDA 12.8 hoặc 13.0 và hệ thống chỉ đề xuất máy tương thích.
Theo giờ khi máy chạy, hoặc theo chu kỳ tháng, quý, nửa năm, năm. Ổ đĩa tính theo GB; máy theo giờ khi tắt chỉ tính phí ổ đĩa.
Được với mô hình vừa 32 GB VRAM (thường là bản lượng tử hoá), hoặc mô hình lớn hơn trên nhiều GPU khi có cấu hình nhiều GPU.
Số lượng theo kho đang có. Bạn có thể quay lại sau, hoặc chọn GPU khác đủ VRAM ở trang GPU Cloud.