Thuê GPU NVIDIA CMP 170HX theo giờ
NVIDIA CMP 170HX là dòng GPU trung tâm dữ liệu kiến trúc Ampere được trang bị 64 GB VRAM và mức tiêu thụ điện (TDP) 250 W. Card cung cấp băng thông bộ nhớ khoảng 1516 GB/s cùng hiệu năng tính toán độ chính xác đơn đạt khoảng 12.1 TFLOPS ở compute capability 8.0. Trên ONIE, bạn có thể triển khai GPU này với hình thức tính phí theo giờ, toàn quyền truy cập SSH và các template dựng sẵn cho PyTorch/CUDA, vLLM, Ollama cũng như ComfyUI.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
CMP 170HX phù hợp với việc gì
Suy luận LLM ngốn nhiều bộ nhớ
Phục vụ các mô hình ngôn ngữ lớn qua vLLM hoặc Ollama bằng cách tận dụng dung lượng 64 GB VRAM và băng thông bộ nhớ khoảng 1516 GB/s.
Deep Learning dung lượng bộ nhớ cao
Chạy các tác vụ PyTorch/CUDA đòi hỏi dung lượng bộ nhớ lớn và compute capability 8.0 mà không cần chia nhỏ mô hình ra nhiều thiết bị.
Quy trình tạo ảnh phức tạp
Tải đồng thời nhiều checkpoint diffusion lớn và ControlNet trong ComfyUI nhờ không gian bộ nhớ 64 GB.
Xử lý dữ liệu và mô phỏng
Thực thi các tác vụ trung tâm dữ liệu tiêu tốn nhiều bộ nhớ, tận dụng thông lượng bộ nhớ cao trong mức công suất 250 W.
Có đúng GPU bạn cần?
Hãy chọn CMP 170HX khi tác vụ của bạn bị giới hạn bởi dung lượng và băng thông bộ nhớ thay vì hiệu năng tính toán độ chính xác đơn thuần túy. Bạn nên chọn GPU có thông lượng tính toán cao hơn nếu cần rút ngắn thời gian mỗi vòng lặp huấn luyện, hoặc chọn dòng card phổ thông nhỏ hơn nếu mô hình không cần đến 64 GB VRAM.
So sánh với GPU tương đương
Câu hỏi thường gặp
CMP 170HX có phù hợp để suy luận LLM không?
Có, dung lượng 64 GB VRAM cùng băng thông bộ nhớ khoảng 1516 GB/s giúp card rất phù hợp để tải và phục vụ các mô hình ngôn ngữ lớn bằng những template như vLLM và Ollama. Tuy nhiên, do hiệu năng tính toán độ chính xác đơn chỉ ở mức khoảng 12.1 TFLOPS, tốc độ xử lý prompt sẽ chậm hơn so với các GPU trung tâm dữ liệu có mật độ tính toán cao hơn.
GPU này so với các card tăng tốc trung tâm dữ liệu tiêu chuẩn thì như thế nào?
CMP 170HX sở hữu bộ đệm bộ nhớ lớn 64 GB và băng thông bộ nhớ cao tương tự các dòng card trung tâm dữ liệu Ampere tiêu chuẩn, trong khi vận hành ở mức TDP 250 W. Điểm đánh đổi chính là thông lượng tính toán thấp hơn, ở mức khoảng 12.1 TFLOPS, khiến card phù hợp với các tác vụ phụ thuộc vào bộ nhớ hơn là các tác vụ tính toán nặng.
Có những môi trường phần mềm nào cho GPU này?
Card hỗ trợ CUDA compute capability 8.0 và có thể khởi chạy trên ONIE bằng các template cấu hình sẵn gồm PyTorch/CUDA, vLLM, Ollama và ComfyUI. Bạn cũng có quyền truy cập SSH trực tiếp để cài đặt thư viện tùy chỉnh và quản lý môi trường của mình.
Cách tính phí khi thuê CMP 170HX như thế nào?
Các máy chủ trên ONIE áp dụng hình thức tính phí theo giờ, vì vậy bạn chỉ phải trả tiền cho khoảng thời gian GPU của mình hoạt động.
Thuê CMP 170HX theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê CMP 170HX