GPU Cloud · NVIDIA · Hopper

按小時租用 NVIDIA H100 SXM GPU

NVIDIA H100 SXM 是一款基於 Hopper 架構的資料中心 GPU,配備 80 GB VRAM 與 700 W 功耗設計。它提供約 53.5 TFLOPS 的標準浮點運算能力與約 2869 GB/s 的記憶體頻寬,並支援 CUDA 運算能力 9.0。在 ONIE 上以每小時計費租用,享有完整 SSH 存取權限,以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的現成範本。

規格

每顆 GPU 的 VRAM

80 GB

架構

NVIDIA Hopper

運算能力 (Compute Capability)

9.0

FP32 算力

≈ 53.5 TFLOPS

記憶體頻寬

≈ 2,869 GB/s

功耗限制

700 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

H100 SXM 適合的應用場景

大型語言模型推論

透過 vLLM 或 Ollama 範本,利用 80 GB VRAM 容量與約 2869 GB/s 的記憶體頻寬,將高需求的語言模型部署至正式環境。

深度學習微調

使用預先配置的 PyTorch/CUDA 環境,結合 Hopper 架構與 CUDA 運算能力 9.0 來訓練與微調神經網路。

高吞吐量批次處理

執行密集型資料處理與模擬工作負載,充分發揮 700 W 資料中心規格下約 53.5 TFLOPS 的運算效能。

繁重的生成式媒體工作流程

執行複雜的 ComfyUI 流程與大批次大小的擴散模型,80 GB 的記憶體空間能輕鬆容納這些工作負載。

這款 GPU 適合您嗎?

當您的訓練或推論工作負載需要 80 GB 高頻寬資料中心記憶體與 Hopper 架構功能時,請選擇 H100 SXM。對於輕量級開發或小型模型,較小的工作站或消費級 GPU 是更實用的選擇;而如果單一執行個體的 80 GB VRAM 無法容納您的完整模型,則建議選擇更新或容量更高的資料中心 GPU。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
H100 SXM80 GBHopper≈ 53.5 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—詳細資訊
H100 PCIE80 GBHopper≈ 41 TFLOPS—詳細資訊
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—詳細資訊

常見問題

H100 SXM 適合用於 LLM 微調與推論嗎?

是的,其 80 GB VRAM 與約 2869 GB/s 的記憶體頻寬非常適合用於大型語言模型的部署服務與微調。您可以在 ONIE 上使用 vLLM、Ollama 或 PyTorch/CUDA 的現成範本立即開始。

SXM 版本與較低功耗的資料中心或工作站 GPU 相比如何?

H100 SXM 以 700 W 熱設計功耗運作,使其能維持比 PCIe 資料中心版本或工作站顯示卡更高的運算效能與記憶體頻寬。如果您的工作負載不會用滿約 53.5 TFLOPS 的運算能力或 80 GB 記憶體,較小的 GPU 可能就已足夠。

CUDA 運算能力 9.0 提供什麼樣的軟體相容性?

運算能力 9.0 代表硬體支援 NVIDIA Hopper 架構的指令與功能。我們預先配置的 PyTorch/CUDA 範本已準備就緒,無需手動設定驅動程式即可直接發揮此硬體的效能。

在 ONIE 上的計費與執行個體存取是如何運作的?

執行個體在您的租用期間採每小時計費。部署完成後,您可以透過 SSH 存取直接連線至您的環境,或與 ComfyUI 等預先安裝的工具互動。

按小時租用 H100 SXM

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 H100 SXM

所有 GPU →