GPU Cloud · NVIDIA · Hopper

按小時租用 NVIDIA H200 NVL GPU

NVIDIA H200 NVL 是採用 Hopper 架構的資料中心 GPU,專為記憶體密集型工作負載打造,配備 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬。它在 600 W 功耗範圍內運作,支援計算能力 9.0,並提供約 48.3 TFLOPS 的標準浮點運算能力。您可以在 ONIE 上部署這款處理器,享有按時計費、直接 SSH 連線以及預先設定好的範本。

規格

每顆 GPU 的 VRAM

140 GB

架構

NVIDIA Hopper

運算能力 (Compute Capability)

9.0

FP32 算力

≈ 48.3 TFLOPS

記憶體頻寬

≈ 3,884 GB/s

功耗限制

600 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

H200 NVL 適合的應用場景

大型語言模型推論

善用 140 GB VRAM 容量與約 3884 GB/s 的記憶體頻寬,在記憶體中直接執行大型模型而無需分片。

模型微調與訓練

透過 Hopper 計算能力 9.0 以及支援大批次規模的充裕 GPU 記憶體,訓練並調整深度學習模型。

高吞吐量批次處理

使用預先設定的 PyTorch/CUDA、vLLM 或 Ollama 範本,高效處理龐大資料集與長上下文視窗。

科學運算與模擬

執行需要約 48.3 TFLOPS 標準浮點效能與大容量板載記憶體的複雜資料中心模擬。

這款 GPU 適合您嗎?

當您的主要瓶頸在於 VRAM 容量與記憶體頻寬,特別是需要在單張顯卡上託管大型模型時,請選擇 H200 NVL。如果您執行的是較輕量的推論、標準圖像生成,或不需要 140 GB 記憶體的開發任務,較小的工作站或消費級 GPU 會是更實用的選擇。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
H200 NVL140 GBHopper≈ 48.3 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—詳細資訊
H100 SXM80 GBHopper≈ 53.5 TFLOPS—詳細資訊
H100 PCIE80 GBHopper≈ 41 TFLOPS—詳細資訊

常見問題

為什麼選擇 H200 NVL 而非標準 Hopper GPU?

H200 NVL 提供 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬,記憶體容量與頻寬均高於早期的 Hopper 世代顯卡。這讓單一 GPU 就能容納更大的模型與更長的上下文視窗。

H200 NVL 適合搭配 vLLM 或 Ollama 進行 LLM 服務部署嗎?

是的,140 GB 記憶體池與高記憶體頻寬使其非常適合用於部署大型語言模型服務。ONIE 提供 vLLM 與 Ollama 的現成範本,協助您快速上手。

有哪些可用的軟體環境與連線方式?

每個執行個體均提供完整的 SSH 存取權限,方便您進行自訂設定。您也可以使用預先安裝 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的範本來啟動執行個體。

ONIE 上的 H200 NVL 如何計費?

執行個體採按時計費,您只需為 H200 NVL 執行個體處於啟用狀態的時間付費。

按小時租用 H200 NVL

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 H200 NVL

所有 GPU →