Thuê GPU NVIDIA RTX 3090 theo giờ
NVIDIA RTX 3090 là dòng GPU phổ thông kiến trúc Ampere được trang bị 24 GB VRAM và khả năng tính toán (compute capability) 8.6. Card mang lại hiệu năng tính toán độ chính xác đơn tiêu chuẩn khoảng 35.4 TFLOPS cùng băng thông bộ nhớ khoảng 805 GB/s ở mức công suất 350 W. Bạn có thể thuê GPU này trên ONIE với hình thức tính phí theo giờ, toàn quyền truy cập SSH và các mẫu (template) dựng sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
RTX 3090 phù hợp với việc gì
Suy luận LLM quy mô cục bộ
Chạy các mô hình ngôn ngữ đã lượng tử hóa hoặc kích thước tầm trung trong 24 GB VRAM bằng các mẫu vLLM hoặc Ollama đã cấu hình sẵn.
Quy trình tạo ảnh
Triển khai ComfyUI để tạo ảnh độ phân giải cao và chạy các pipeline khuếch tán tùy chỉnh mà không gặp giới hạn bộ nhớ như trên các dòng card phổ thông tiêu chuẩn.
Fine-tuning và huấn luyện mô hình
Sử dụng mẫu PyTorch/CUDA để fine-tune các mạng nơ-ron vừa với dung lượng bộ nhớ 24 GB và tận dụng băng thông bộ nhớ khoảng 805 GB/s.
Tính toán CUDA đa dụng
Thực thi các tác vụ tùy chỉnh được biên dịch cho compute capability 8.6 với hiệu năng độ chính xác đơn khoảng 35.4 TFLOPS.
Có đúng GPU bạn cần?
RTX 3090 phù hợp với các nhà phát triển và nhà nghiên cứu cần 24 GB VRAM cho các tác vụ tiêu tốn nhiều bộ nhớ trên một card kiến trúc Ampere phân khúc phổ thông. Hãy chọn GPU nhỏ hơn cho các tác vụ suy luận nhẹ đòi hỏi ít bộ nhớ hơn, hoặc nâng cấp lên GPU máy trạm hay trung tâm dữ liệu nếu mô hình của bạn vượt quá 24 GB VRAM hoặc yêu cầu các tính năng kiến trúc mới hơn.
So sánh với GPU tương đương
Câu hỏi thường gặp
RTX 3090 có phù hợp để suy luận và fine-tuning LLM không?
Có, với 24 GB VRAM và băng thông bộ nhớ khoảng 805 GB/s, card hoàn toàn có khả năng chạy và fine-tuning nhiều mô hình ngôn ngữ mã nguồn mở (open-weight). Bạn có thể khởi chạy trực tiếp các mẫu vLLM, Ollama hoặc PyTorch/CUDA trên ONIE để bắt đầu làm việc ngay lập tức.
RTX 3090 so với các dòng GPU nhỏ hơn hoặc lớn hơn thì như thế nào?
Với 24 GB VRAM, RTX 3090 lưu trữ được lượng trọng số mô hình và kích thước batch (batch size) lớn hơn đáng kể so với các dòng card phổ thông phân khúc thấp hơn. Tuy nhiên, nếu tác vụ của bạn yêu cầu bộ nhớ lớn hơn 24 GB hoặc hiệu năng tính toán độ chính xác đơn cao hơn mức khoảng 35.4 TFLOPS, bạn nên cân nhắc dòng GPU thế hệ mới hơn hoặc thuộc phân khúc trung tâm dữ liệu.
Làm thế nào để kết nối vào máy chủ RTX 3090 và có những phần mềm nào đi kèm?
Bạn có thể kết nối trực tiếp vào máy chủ thông qua quyền truy cập SSH. ONIE cung cấp các mẫu dùng ngay cho PyTorch/CUDA, vLLM, Ollama và ComfyUI để bạn không phải tự cấu hình bộ phần mềm theo cách thủ công.
Cách tính phí cho RTX 3090 trên ONIE hoạt động như thế nào?
Các máy chủ được tính phí theo giờ. Bạn chỉ phải trả tiền cho khoảng thời gian máy chủ GPU của mình đang hoạt động.
Thuê RTX 3090 theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê RTX 3090