Chạy suy luận LLM
vLLM, SGLang hoặc Ollama kèm Open WebUI để phục vụ và thử mô hình ngôn ngữ.
Thuê máy chủ GPU NVIDIA theo giờ hoặc theo chu kỳ. So sánh cấu hình và giá đang có, khởi tạo từ template dựng sẵn rồi kết nối qua SSH hoặc terminal ngay trên trình duyệt.
Với GPU Cloud của ONIE, bạn thuê máy chủ GPU từ kho đang có: chọn model GPU, VRAM và dung lượng ổ đĩa, khởi tạo từ template như PyTorch, vLLM, Ollama hay ComfyUI rồi kết nối qua SSH. Máy theo giờ trừ tiền vào số dư tài khoản, và khi tắt chỉ tính phí ổ đĩa.
Kho GPU cập nhật liên tục: số lượng và giá thay đổi theo thị trường. Bảng điều khiển xác nhận giá cuối cùng trước khi bạn đặt.
vLLM, SGLang hoặc Ollama kèm Open WebUI để phục vụ và thử mô hình ngôn ngữ.
Unsloth Studio để fine-tune mô hình ngôn ngữ trên dữ liệu của bạn.
ComfyUI cho quy trình Flux, SDXL và video.
Ảnh PyTorch và Ubuntu 24.04 có sẵn NVIDIA CUDA, truy cập qua SSH.
Ubuntu desktop ngay trên trình duyệt, hoặc máy ảo KVM đầy đủ khi cần.
Mỗi template ghi rõ CUDA, VRAM và ổ đĩa tối thiểu; hệ thống chỉ đề xuất GPU tương thích.
Các công việc vừa bộ nhớ GPU: suy luận và fine-tune LLM, tạo ảnh và video, render và phát triển CUDA. Template PyTorch, vLLM, SGLang, Ollama, Unsloth và ComfyUI cài sẵn phần mềm cho bạn.
Qua SSH bằng khoá của bạn, hoặc dùng terminal trên trình duyệt trong bảng điều khiển. Template desktop và máy ảo còn có giao diện đồ hoạ.
Giá lấy theo kho GPU đang có nên có thể thay đổi. Bảng điều khiển hiện giá xác nhận trước khi đặt, và máy của bạn tính phí theo đúng giá đã xác nhận.
Với gói theo giờ, máy đã tắt chỉ tính phí ổ đĩa. Hãy xoá máy khi không cần giữ dữ liệu nữa.
Bảng phía trên liệt kê các cấu hình đang có, gồm NVIDIA RTX 5090 32 GB VRAM khi còn hàng. Số lượng thay đổi trong ngày.