按小時租用 NVIDIA H200 NVL GPU
NVIDIA H200 NVL 是採用 Hopper 架構的資料中心 GPU,專為記憶體密集型工作負載打造,配備 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬。它在 600 W 功耗範圍內運作,支援計算能力 9.0,並提供約 48.3 TFLOPS 的標準浮點運算能力。您可以在 ONIE 上部署這款處理器,享有按時計費、直接 SSH 連線以及預先設定好的範本。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
正在載入即時價格…
H200 NVL 適合的應用場景
大型語言模型推論
善用 140 GB VRAM 容量與約 3884 GB/s 的記憶體頻寬,在記憶體中直接執行大型模型而無需分片。
模型微調與訓練
透過 Hopper 計算能力 9.0 以及支援大批次規模的充裕 GPU 記憶體,訓練並調整深度學習模型。
高吞吐量批次處理
使用預先設定的 PyTorch/CUDA、vLLM 或 Ollama 範本,高效處理龐大資料集與長上下文視窗。
科學運算與模擬
執行需要約 48.3 TFLOPS 標準浮點效能與大容量板載記憶體的複雜資料中心模擬。
這款 GPU 適合您嗎?
當您的主要瓶頸在於 VRAM 容量與記憶體頻寬,特別是需要在單張顯卡上託管大型模型時,請選擇 H200 NVL。如果您執行的是較輕量的推論、標準圖像生成,或不需要 140 GB 記憶體的開發任務,較小的工作站或消費級 GPU 會是更實用的選擇。
與同級 GPU 比較
常見問題
為什麼選擇 H200 NVL 而非標準 Hopper GPU?
H200 NVL 提供 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬,記憶體容量與頻寬均高於早期的 Hopper 世代顯卡。這讓單一 GPU 就能容納更大的模型與更長的上下文視窗。
H200 NVL 適合搭配 vLLM 或 Ollama 進行 LLM 服務部署嗎?
是的,140 GB 記憶體池與高記憶體頻寬使其非常適合用於部署大型語言模型服務。ONIE 提供 vLLM 與 Ollama 的現成範本,協助您快速上手。
有哪些可用的軟體環境與連線方式?
每個執行個體均提供完整的 SSH 存取權限,方便您進行自訂設定。您也可以使用預先安裝 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的範本來啟動執行個體。
ONIE 上的 H200 NVL 如何計費?
執行個體採按時計費,您只需為 H200 NVL 執行個體處於啟用狀態的時間付費。
按小時租用 H200 NVL
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 H200 NVL