GPU Cloud · NVIDIA · Hopper

按小时租用 NVIDIA H200 NVL GPU

NVIDIA H200 NVL 是一款基于 Hopper 架构的数据中心 GPU,专为显存密集型工作负载打造,提供 140 GB VRAM 和约 3884 GB/s 的显存带宽。其运行功耗上限为 600 W,支持计算能力 9.0,并提供约 48.3 TFLOPS 的标准浮点算力。您可以在 ONIE 上部署该处理器,享受按小时计费、直接 SSH 访问以及开箱即用的模板。

规格参数

单卡 VRAM

140 GB

架构

NVIDIA Hopper

计算能力

9.0

FP32 算力

≈ 48.3 TFLOPS

显存带宽

≈ 3,884 GB/s

功耗限制

600 W

数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。

可用配置

实时库存与价格,持续更新。最终价格将在您下单前确认。

正在加载实时价格…

H200 NVL 的适用场景

大语言模型推理

凭借 140 GB VRAM 容量和约 3884 GB/s 的显存带宽,无需分片即可在显存中运行大型模型。

模型微调与训练

利用 Hopper 计算能力 9.0 和充裕的 GPU 显存,以较大的批处理大小训练和适配深度学习模型。

高吞吐量批处理

使用预配置的 PyTorch/CUDA、vLLM 或 Ollama 模板,高效处理海量数据集和长上下文窗口。

科学计算与模拟

执行需要约 48.3 TFLOPS 标准浮点性能和大量板载显存的复杂数据中心模拟。

这款 GPU 适合您吗?

当您的主要瓶颈在于 VRAM 容量和显存带宽时(尤其是在单卡上托管大型模型),请选择 H200 NVL。如果您运行的是较轻量的推理、标准图像生成或不需要 140 GB 显存的开发任务,较小规格的工作站或消费级 GPU 会是更实用的选择。

与同类 GPU 对比

GPU单卡 VRAM架构FP32 算力每小时起价详情
H200 NVL140 GBHopper≈ 48.3 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—详情
H100 SXM80 GBHopper≈ 53.5 TFLOPS—详情
H100 PCIE80 GBHopper≈ 41 TFLOPS—详情

常见问题

为什么选择 H200 NVL 而不是标准 Hopper GPU?

H200 NVL 提供 140 GB VRAM 和约 3884 GB/s 的显存带宽,显存容量和带宽均高于早期的 Hopper 架构显卡。这使得单张 GPU 即可容纳更大的模型和更长的上下文窗口。

H200 NVL 适合使用 vLLM 或 Ollama 进行 LLM 部署吗?

是的,140 GB 的显存池和高显存带宽使其非常适合部署大语言模型。ONIE 提供开箱即用的 vLLM 和 Ollama 模板,帮助您快速启动。

有哪些可用的软件环境和访问方式?

每个实例均包含完整的 SSH 访问权限,方便您进行自定义配置。您也可以使用预装了 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的模板来启动实例。

ONIE 上的 H200 NVL 如何计费?

实例按小时计费。您只需为 H200 NVL 实例处于活动状态的时间付费。

按小时租用 H200 NVL

创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。

租用 H200 NVL

所有 GPU →