Thuê GPU NVIDIA H200 NVL theo giờ
NVIDIA H200 NVL là GPU trung tâm dữ liệu kiến trúc Hopper được thiết kế cho các tác vụ tiêu tốn nhiều bộ nhớ, cung cấp 140 GB VRAM và băng thông bộ nhớ khoảng 3884 GB/s. Thiết bị hoạt động ở mức công suất 600 W, hỗ trợ compute capability 9.0 và mang lại khoảng 48.3 TFLOPS hiệu năng tính toán dấu phẩy động tiêu chuẩn. Bạn có thể triển khai bộ vi xử lý này trên ONIE với hình thức tính phí theo giờ, quyền truy cập SSH trực tiếp và các mẫu cài đặt sẵn.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
H200 NVL phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM Inference)
Chạy các mô hình lớn trực tiếp trên bộ nhớ mà không cần phân mảnh (sharding), tận dụng dung lượng 140 GB VRAM và băng thông bộ nhớ khoảng 3884 GB/s.
Huấn luyện và Fine-Tuning mô hình
Huấn luyện và tinh chỉnh các mô hình học sâu bằng compute capability 9.0 của kiến trúc Hopper cùng bộ nhớ GPU dồi dào cho kích thước batch lớn.
Xử lý hàng loạt thông lượng cao
Xử lý các tập dữ liệu khổng lồ và cửa sổ ngữ cảnh dài một cách hiệu quả bằng các mẫu cấu hình sẵn như PyTorch/CUDA, vLLM hoặc Ollama.
Tính toán khoa học và mô phỏng
Thực thi các mô phỏng phức tạp cấp trung tâm dữ liệu đòi hỏi hiệu năng dấu phẩy động tiêu chuẩn khoảng 48.3 TFLOPS và bộ nhớ tích hợp dung lượng lớn.
Có đúng GPU bạn cần?
Hãy chọn H200 NVL khi nút thắt cổ chai chính của bạn là dung lượng VRAM và băng thông bộ nhớ, đặc biệt khi cần chạy các mô hình lớn trên một card duy nhất. Nếu bạn chỉ chạy suy luận nhẹ, tạo ảnh tiêu chuẩn hoặc các tác vụ phát triển không đòi hỏi tới 140 GB bộ nhớ, các dòng GPU máy trạm hoặc GPU phổ thông nhỏ hơn sẽ là lựa chọn thiết thực hơn.
So sánh với GPU tương đương
Câu hỏi thường gặp
Tại sao nên chọn H200 NVL thay vì GPU Hopper tiêu chuẩn?
H200 NVL cung cấp 140 GB VRAM và băng thông bộ nhớ khoảng 3884 GB/s, cao hơn cả về dung lượng lẫn băng thông so với các dòng card thế hệ Hopper trước đó. Điều này cho phép nạp vừa các mô hình lớn hơn và cửa sổ ngữ cảnh dài hơn trên một GPU duy nhất.
H200 NVL có phù hợp để chạy LLM với vLLM hoặc Ollama không?
Có, dung lượng bộ nhớ 140 GB và băng thông bộ nhớ cao giúp card này rất phù hợp để triển khai các mô hình ngôn ngữ lớn. ONIE cung cấp các mẫu dựng sẵn cho cả vLLM và Ollama để giúp bạn bắt đầu nhanh chóng.
Có sẵn những môi trường phần mềm và phương thức truy cập nào?
Mọi máy chủ đều bao gồm toàn quyền truy cập SSH để cấu hình tùy chỉnh. Bạn cũng có thể khởi chạy máy chủ với các mẫu cài đặt sẵn bao gồm PyTorch/CUDA, vLLM, Ollama và ComfyUI.
Cách tính phí cho H200 NVL trên ONIE hoạt động như thế nào?
Các máy chủ được tính phí theo giờ. Bạn chỉ phải trả tiền cho khoảng thời gian máy chủ H200 NVL của mình hoạt động.
Thuê H200 NVL theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê H200 NVL