Thuê GPU NVIDIA H100 NVL theo giờ
NVIDIA H100 NVL là GPU trung tâm dữ liệu kiến trúc Hopper được trang bị 94 GB VRAM và khả năng tính toán 9.0. Sản phẩm mang lại hiệu năng độ chính xác đơn khoảng 48.3 TFLOPS và băng thông bộ nhớ khoảng 3381 GB/s trong mức công suất nhiệt 400 W. Thuê H100 NVL trên ONIE với tính phí theo giờ, quyền truy cập SSH cùng các template dựng sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
H100 NVL phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM)
Triển khai các mô hình ngôn ngữ dung lượng lớn với vLLM hoặc Ollama bằng 94 GB VRAM và băng thông bộ nhớ khoảng 3381 GB/s để tạo token nhanh chóng.
Fine-Tuning mô hình học sâu
Huấn luyện và fine-tune mạng nơ-ron trong PyTorch bằng các tính năng của kiến trúc Hopper và khả năng tính toán 9.0.
Tạo ảnh độ phân giải cao
Chạy các quy trình ComfyUI phức tạp và các pipeline khuếch tán lớn ngay trong bộ nhớ GPU mà không cần chuyển tải sang RAM hệ thống.
Tính toán khoa học và mô phỏng
Thực thi các tác vụ trung tâm dữ liệu tiêuốn nhiều bộ nhớ, tận dụng lợi thế từ hiệu năng tính toán độ chính xác đơn khoảng 48.3 TFLOPS.
Có đúng GPU bạn cần?
Hãy chọn H100 NVL khi các tác vụ AI hoặc tính toán của bạn yêu cầu nhiều bộ nhớ hơn mức mà các dòng card trung tâm dữ liệu tiêu chuẩn cung cấp, lên đến 94 GB VRAM. GPU máy trạm hoặc GPU tiêu dùng nhỏ hơn sẽ là lựa chọn tốt hơn cho việc phát triển và suy luận nhẹ, trong khi cấu hình đa GPU hoặc phân khúc bộ nhớ lớn hơn là cần thiết nếu mô hình của bạn vượt quá 94 GB.
So sánh với GPU tương đương
Câu hỏi thường gặp
H100 NVL có phù hợp để suy luận và fine-tuning LLM không?
Có, 94 GB VRAM và băng thông bộ nhớ khoảng 3381 GB/s giúp GPU này rất phù hợp để vận hành và fine-tuning các mô hình ngôn ngữ lớn không vừa với các GPU trung tâm dữ liệu nhỏ hơn.
H100 NVL so với các biến thể H100 tiêu chuẩn như thế nào?
H100 NVL cung cấp dung lượng VRAM mở rộng lên tới 94 GB và mức công suất 400 W, mang lại không gian bộ nhớ dư dả hơn so với các cấu hình trung tâm dữ liệu Hopper tiêu chuẩn.
Những template phần mềm nào có sẵn trên ONIE cho GPU này?
Bạn có thể triển khai H100 NVL bằng các template cấu hình sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI, tất cả đều hỗ trợ khả năng tính toán 9.0.
Việc tính phí và truy cập hoạt động như thế nào khi thuê H100 NVL?
Các máy chủ trên ONIE áp dụng tính phí theo giờ và cung cấp quyền truy cập SSH trực tiếp để bạn có thể quản lý môi trường và quy trình làm việc của mình ngay lập tức.
Thuê H100 NVL theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê H100 NVL