Thuê GPU NVIDIA H100 SXM theo giờ
NVIDIA H100 SXM là GPU trung tâm dữ liệu kiến trúc Hopper được trang bị 80 GB VRAM và mức công suất 700 W. Dòng card này mang lại hiệu năng tính toán dấu phẩy động tiêu chuẩn khoảng 53.5 TFLOPS và băng thông bộ nhớ đạt khoảng 2869 GB/s, hỗ trợ CUDA compute capability 9.0. Thuê ngay trên ONIE với hình thức tính phí theo giờ, toàn quyền truy cập SSH và các template dựng sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
H100 SXM phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM)
Triển khai các mô hình ngôn ngữ đòi hỏi tài nguyên cao vào môi trường thực tế (production) nhờ dung lượng 80 GB VRAM và băng thông bộ nhớ khoảng 2869 GB/s thông qua các template vLLM hoặc Ollama.
Fine-tuning mô hình học sâu (Deep Learning)
Huấn luyện và fine-tuning mạng nơ-ron bằng kiến trúc Hopper cùng CUDA compute capability 9.0 với các môi trường PyTorch/CUDA đã được cấu hình sẵn.
Xử lý hàng loạt (Batch Processing) thông lượng cao
Chạy các tác vụ mô phỏng và xử lý dữ liệu chuyên sâu, tận dụng tối đa hiệu năng tính toán khoảng 53.5 TFLOPS trong thiết kế chuẩn trung tâm dữ liệu 700 W.
Quy trình tạo sinh đa phương tiện chuyên sâu
Thực thi các pipeline ComfyUI phức tạp và mô hình khuếch tán (diffusion) với kích thước batch lớn, vận hành thoải mái trong dung lượng bộ nhớ 80 GB.
Có đúng GPU bạn cần?
Hãy chọn H100 SXM khi các tác vụ huấn luyện hoặc suy luận của bạn đòi hỏi 80 GB bộ nhớ trung tâm dữ liệu băng thông cao cùng các tính năng của kiến trúc Hopper. Một GPU máy trạm hoặc GPU tiêu dùng nhỏ hơn sẽ là lựa chọn thực tế hơn cho việc phát triển nhẹ nhàng hoặc các mô hình nhỏ, trong khi một GPU trung tâm dữ liệu thế hệ mới hơn hoặc có dung lượng cao hơn sẽ phù hợp hơn nếu một máy chủ đơn lẻ không thể chứa toàn bộ mô hình của bạn trong 80 GB VRAM.
So sánh với GPU tương đương
Câu hỏi thường gặp
H100 SXM có phù hợp để fine-tuning và suy luận LLM không?
Có, với 80 GB VRAM và băng thông bộ nhớ khoảng 2869 GB/s, dòng GPU này rất phù hợp cho cả việc vận hành (serving) lẫn fine-tuning các mô hình ngôn ngữ lớn. Bạn có thể bắt đầu ngay lập tức trên ONIE bằng các template dựng sẵn cho vLLM, Ollama hoặc PyTorch/CUDA.
Phiên bản SXM so với các GPU trung tâm dữ liệu công suất thấp hơn hoặc GPU máy trạm thì như thế nào?
H100 SXM hoạt động ở mức công suất thiết kế nhiệt (TDP) 700 W, cho phép duy trì hiệu năng tính toán và băng thông bộ nhớ cao hơn so với các biến thể PCIe dành cho trung tâm dữ liệu hoặc các dòng card máy trạm. Nếu khối lượng công việc của bạn không dùng hết khoảng 53.5 TFLOPS hiệu năng tính toán hoặc 80 GB bộ nhớ, một GPU nhỏ hơn có thể đã đủ đáp ứng.
CUDA compute capability 9.0 mang lại khả năng tương thích phần mềm như thế nào?
Compute capability 9.0 biểu thị sự hỗ trợ phần cứng cho các tập lệnh và tính năng thuộc kiến trúc NVIDIA Hopper. Các template PyTorch/CUDA cấu hình sẵn của chúng tôi đã sẵn sàng để tận dụng phần cứng này mà không cần cài đặt driver thủ công.
Cách tính phí và truy cập máy chủ trên ONIE hoạt động như thế nào?
Các máy chủ được tính phí theo giờ dựa trên thời gian thuê thực tế của bạn. Sau khi triển khai, bạn có thể kết nối trực tiếp vào môi trường của mình thông qua quyền truy cập SSH hoặc tương tác với các công cụ cài đặt sẵn như ComfyUI.
Thuê H100 SXM theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê H100 SXM