GPU Cloud · NVIDIA · Ampere

Thuê GPU NVIDIA RTX 3090 Ti theo giờ

NVIDIA RTX 3090 Ti là dòng GPU tiêu dùng kiến trúc Ampere, được trang bị 24 GB VRAM và công suất tỏa nhiệt thiết kế 450 W. Card cung cấp khoảng 36.4 TFLOPS hiệu năng tính toán độ chính xác đơn cùng băng thông bộ nhớ khoảng 865 GB/s, hỗ trợ CUDA compute capability 8.6. Trên ONIE, bạn có thể thuê phần cứng này theo giờ với quyền truy cập SSH trực tiếp và các mẫu phần mềm cấu hình sẵn.

Thông số

VRAM mỗi GPU

24 GB

Kiến trúc

NVIDIA Ampere

Compute capability

8.6

Hiệu năng FP32

≈ 36.4 TFLOPS

Băng thông bộ nhớ

≈ 865 GB/s

Giới hạn công suất

450 W

Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.

Cấu hình đang có

Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.

Đang tải giá hiện hành…

RTX 3090 Ti phù hợp với việc gì

Suy luận LLM cục bộ

Chạy các mô hình ngôn ngữ lượng tử hóa vừa vặn trong 24 GB VRAM bằng các mẫu vLLM hoặc Ollama có sẵn.

Quy trình tạo ảnh AI

Thực thi các pipeline khuếch tán phức tạp và sơ đồ node tùy chỉnh với mẫu ComfyUI, tận dụng băng thông bộ nhớ khoảng 865 GB/s.

Thử nghiệm Deep Learning

Phát triển và kiểm thử mạng nơ-ron trong PyTorch với CUDA compute capability 8.6 và hiệu năng tính toán độ chính xác đơn khoảng 36.4 TFLOPS.

Fine-tuning với LoRA

Huấn luyện các adapter gọn nhẹ và fine-tune các mô hình thị giác hoặc văn bản cỡ trung bình mà không vượt quá giới hạn bộ nhớ 24 GB.

Có đúng GPU bạn cần?

RTX 3090 Ti là lựa chọn thiết thực cho các nhà phát triển và nhà nghiên cứu cần 24 GB VRAM trên một dòng card tiêu dùng kiến trúc Ampere cho tác vụ suy luận hoặc huấn luyện ở mức độ vừa phải. Hãy chọn GPU có bộ nhớ thấp hơn nếu bạn chỉ chạy các mô hình nhỏ, hoặc nâng cấp lên GPU máy trạm hay trung tâm dữ liệu nếu khối lượng công việc đòi hỏi nhiều hơn 24 GB VRAM hoặc các tính năng kiến trúc mới hơn.

So sánh với GPU tương đương

GPUVRAM mỗi GPUKiến trúcHiệu năng FP32Từ / giờChi tiết
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—
RTX 309024 GBAmpere≈ 35.4 TFLOPS—Chi tiết
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Chi tiết
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Chi tiết

Câu hỏi thường gặp

RTX 3090 Ti có phù hợp để suy luận LLM và tạo ảnh không?

Có, với 24 GB VRAM và băng thông bộ nhớ khoảng 865 GB/s, dòng card này rất phù hợp để chạy các mô hình ngôn ngữ cỡ trung bình hoặc đã lượng tử hóa cũng như các quy trình tạo ảnh. Bạn có thể khởi chạy các mẫu cấu hình sẵn cho vLLM, Ollama hoặc ComfyUI để bắt đầu ngay lập tức.

RTX 3090 Ti so với các dòng GPU tiêu dùng hoặc máy trạm mới hơn thì như thế nào?

Là dòng GPU tiêu dùng thế hệ Ampere với compute capability 8.6, card cung cấp cùng mức dung lượng 24 GB VRAM như các dòng card tiêu dùng cao cấp thế hệ mới, dù các kiến trúc mới hơn thường mang lại thông lượng tính toán cao hơn và tối ưu điện năng tốt hơn so với mức thiết kế 450 W của nó. Nếu khối lượng công việc của bạn chủ yếu phụ thuộc vào dung lượng bộ nhớ và nằm gọn trong 24 GB, đây vẫn là một lựa chọn đáp ứng tốt.

Làm cách nào để kết nối với máy chủ RTX 3090 Ti trên ONIE?

Khi máy chủ đang chạy, bạn có thể kết nối trực tiếp qua SSH để toàn quyền điều khiển bằng dòng lệnh. Bạn cũng có thể triển khai các mẫu có sẵn cho PyTorch với CUDA, vLLM, Ollama hoặc ComfyUI.

Cách tính phí khi thuê GPU này như thế nào?

Các máy chủ trên ONIE áp dụng phương thức tính phí theo giờ, cho phép bạn chỉ phải trả tiền cho khoảng thời gian môi trường RTX 3090 Ti của mình hoạt động.

Thuê RTX 3090 Ti theo giờ

Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.

Thuê RTX 3090 Ti

Tất cả GPU →