GPU Cloud · NVIDIA · Hopper

按小時租用 NVIDIA H100 NVL GPU

NVIDIA H100 NVL 是採用 Hopper 架構的資料中心 GPU,配備 94 GB VRAM 與 9.0 運算能力。在 400 W 的功耗範圍內,可提供約 48.3 TFLOPS 的單精度效能與約 3381 GB/s 的記憶體頻寬。在 ONIE 上租用 H100 NVL,享按小時計費、SSH 存取權限,以及支援 PyTorch/CUDA、vLLM、Ollama 與 ComfyUI 的現成範本。

規格

每顆 GPU 的 VRAM

94 GB

架構

NVIDIA Hopper

運算能力 (Compute Capability)

9.0

FP32 算力

≈ 48.3 TFLOPS

記憶體頻寬

≈ 3,381 GB/s

功耗限制

400 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

H100 NVL 適合的應用場景

大型語言模型推論

運用 94 GB VRAM 與約 3381 GB/s 的記憶體頻寬,透過 vLLM 或 Ollama 部署高容量語言模型,實現快速的 Token 生成。

深度學習微調

運用 Hopper 架構功能與 9.0 運算能力,在 PyTorch 中訓練與微調神經網路。

高解析度影像生成

在記憶體中直接執行複雜的 ComfyUI 工作流程與大型擴散模型管線,無須卸載至系統 RAM。

科學運算與模擬

執行受惠於約 48.3 TFLOPS 單精度運算效能的記憶體密集型資料中心工作負載。

這款 GPU 適合您嗎?

當您的 AI 或運算工作負載需要比標準資料中心顯示卡更多的記憶體(最高達 94 GB VRAM)時,請選擇 H100 NVL。對於輕量級推論與開發,較小的工作站或消費級 GPU 是更合適的選擇;若您的模型超過 94 GB,則需要多 GPU 配置或更大記憶體層級的方案。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
H100 NVL94 GBHopper≈ 48.3 TFLOPS—
H100 SXM80 GBHopper≈ 53.5 TFLOPS—詳細資訊
H200 NVL140 GBHopper≈ 48.3 TFLOPS—詳細資訊
H100 PCIE80 GBHopper≈ 41 TFLOPS—詳細資訊

常見問題

H100 NVL 適合用於 LLM 推論與微調嗎?

是的,其 94 GB VRAM 與約 3381 GB/s 的記憶體頻寬,非常適合用於部署與微調無法裝入較小資料中心 GPU 的大型語言模型。

H100 NVL 與標準版 H100 相比有何不同?

H100 NVL 提供擴充的 94 GB VRAM 容量與 400 W 功耗範圍,與標準 Hopper 資料中心配置相比,具備更多記憶體裕度。

ONIE 為這款 GPU 提供哪些軟體範本?

您可以使用預先設定的 PyTorch/CUDA、vLLM、Ollama 與 ComfyUI 範本來部署 H100 NVL,所有範本皆支援 9.0 運算能力。

租用 H100 NVL 時的計費與存取方式為何?

ONIE 上的執行個體採用按小時計費,並提供直接的 SSH 存取權限,讓您能立即管理環境與工作流程。

按小時租用 H100 NVL

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 H100 NVL

所有 GPU →