按小时租用 NVIDIA H200 NVL GPU
NVIDIA H200 NVL 是一款基于 Hopper 架构的数据中心 GPU,专为显存密集型工作负载打造,提供 140 GB VRAM 和约 3884 GB/s 的显存带宽。其运行功耗上限为 600 W,支持计算能力 9.0,并提供约 48.3 TFLOPS 的标准浮点算力。您可以在 ONIE 上部署该处理器,享受按小时计费、直接 SSH 访问以及开箱即用的模板。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。
可用配置
实时库存与价格,持续更新。最终价格将在您下单前确认。
正在加载实时价格…
H200 NVL 的适用场景
大语言模型推理
凭借 140 GB VRAM 容量和约 3884 GB/s 的显存带宽,无需分片即可在显存中运行大型模型。
模型微调与训练
利用 Hopper 计算能力 9.0 和充裕的 GPU 显存,以较大的批处理大小训练和适配深度学习模型。
高吞吐量批处理
使用预配置的 PyTorch/CUDA、vLLM 或 Ollama 模板,高效处理海量数据集和长上下文窗口。
科学计算与模拟
执行需要约 48.3 TFLOPS 标准浮点性能和大量板载显存的复杂数据中心模拟。
这款 GPU 适合您吗?
当您的主要瓶颈在于 VRAM 容量和显存带宽时(尤其是在单卡上托管大型模型),请选择 H200 NVL。如果您运行的是较轻量的推理、标准图像生成或不需要 140 GB 显存的开发任务,较小规格的工作站或消费级 GPU 会是更实用的选择。
与同类 GPU 对比
常见问题
为什么选择 H200 NVL 而不是标准 Hopper GPU?
H200 NVL 提供 140 GB VRAM 和约 3884 GB/s 的显存带宽,显存容量和带宽均高于早期的 Hopper 架构显卡。这使得单张 GPU 即可容纳更大的模型和更长的上下文窗口。
H200 NVL 适合使用 vLLM 或 Ollama 进行 LLM 部署吗?
是的,140 GB 的显存池和高显存带宽使其非常适合部署大语言模型。ONIE 提供开箱即用的 vLLM 和 Ollama 模板,帮助您快速启动。
有哪些可用的软件环境和访问方式?
每个实例均包含完整的 SSH 访问权限,方便您进行自定义配置。您也可以使用预装了 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的模板来启动实例。
ONIE 上的 H200 NVL 如何计费?
实例按小时计费。您只需为 H200 NVL 实例处于活动状态的时间付费。
按小时租用 H200 NVL
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 H200 NVL