Thuê GPU NVIDIA H100 PCIE theo giờ
NVIDIA H100 PCIE là GPU trung tâm dữ liệu kiến trúc Hopper được thiết kế cho các tác vụ học sâu (deep learning) và tính toán khoa học chuyên sâu. Sản phẩm cung cấp 80 GB VRAM, băng thông bộ nhớ khoảng 1760 GB/s và sức mạnh tính toán dấu phẩy động tiêu chuẩn khoảng 41.0 TFLOPS trong mức công suất tiêu thụ 350 W. Trên ONIE, bạn có thể triển khai bộ tăng tốc đạt compute capability 9.0 này với hình thức tính phí theo giờ và toàn quyền truy cập SSH.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
H100 PCIE phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM Inference)
Chạy các mô hình ngôn ngữ lớn trực tiếp trên bộ nhớ nhờ 80 GB VRAM và băng thông bộ nhớ cao, kết hợp cùng các template vLLM hoặc Ollama được cấu hình sẵn.
Huấn luyện và Fine-Tuning mô hình
Huấn luyện hoặc fine-tune các mạng nơ-ron sâu bằng kiến trúc Hopper và môi trường PyTorch/CUDA có sẵn.
Tạo ảnh hàng loạt
Chạy các pipeline diffusion thông lượng cao và các quy trình ComfyUI phức tạp đòi hỏi dung lượng bộ nhớ lớn.
Khoa học dữ liệu và mô phỏng
Thực thi các tác vụ xử lý dữ liệu và mô phỏng đòi hỏi tính toán chuyên sâu với hiệu năng dấu phẩy động tiêu chuẩn khoảng 41.0 TFLOPS cùng thông lượng bộ nhớ khoảng 1760 GB/s.
Có đúng GPU bạn cần?
Hãy chọn H100 PCIE khi khối lượng công việc của bạn yêu cầu 80 GB VRAM, băng thông bộ nhớ cấp trung tâm dữ liệu và các tính năng của kiến trúc Hopper đạt compute capability 9.0. Đối với các tác vụ suy luận nhẹ hơn hoặc mô hình nhỏ hơn, GPU máy trạm hoặc GPU tiêu dùng có ít VRAM hơn sẽ tiết kiệm chi phí hơn, trong khi các yêu cầu thông lượng cực cao có thể cần đến biến thể trung tâm dữ liệu nền tảng SXM.
So sánh với GPU tương đương
Câu hỏi thường gặp
H100 PCIE có phù hợp để fine-tuning và suy luận LLM không?
Có, với 80 GB VRAM và băng thông bộ nhớ khoảng 1760 GB/s, GPU này rất phù hợp để lưu trữ và huấn luyện các mô hình lớn. Bạn có thể bắt đầu ngay lập tức bằng cách sử dụng các template được cấu hình sẵn cho PyTorch/CUDA, vLLM hoặc Ollama.
H100 PCIE so với phiên bản SXM hoặc các GPU máy trạm nhỏ hơn thì như thế nào?
H100 PCIE hoạt động ở mức TDP 350 W, mang lại mức tiêu thụ điện năng thấp hơn và khả năng tương thích chuẩn PCIe so với các biến thể trung tâm dữ liệu SXM có công suất cao hơn. So với các dòng card máy trạm hoặc tiêu dùng, GPU này cung cấp dung lượng VRAM vượt trội ở mức 80 GB cùng băng thông bộ nhớ cao hơn.
GPU này hỗ trợ phần mềm gì và có compute capability là bao nhiêu?
Được xây dựng trên kiến trúc NVIDIA Hopper, H100 PCIE hỗ trợ CUDA compute capability 9.0. Bạn có thể khởi chạy các instance với template dựng sẵn bao gồm PyTorch/CUDA và ComfyUI, hoặc tự cấu hình môi trường riêng qua quyền truy cập SSH.
Cách tính phí cho các instance H100 PCIE trên ONIE như thế nào?
Các instance trên ONIE áp dụng phương thức tính phí theo giờ minh bạch, vì vậy bạn chỉ phải trả tiền cho khoảng thời gian GPU hoạt động. Toàn quyền truy cập SSH được bao gồm trong mọi lần triển khai.
Thuê H100 PCIE theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê H100 PCIE