按小时租用 NVIDIA H100 NVL GPU
NVIDIA H100 NVL 是一款基于 Hopper 架构的数据中心 GPU,配备 94 GB VRAM,计算能力达 9.0。它在 400 W 的功耗范围内提供约 48.3 TFLOPS 的单精度性能和约 3381 GB/s 的显存带宽。在 ONIE 上租用 H100 NVL,享受按小时计费、SSH 访问,以及适用于 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的预置模板。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。
可用配置
实时库存与价格,持续更新。最终价格将在您下单前确认。
正在加载实时价格…
H100 NVL 的适用场景
大语言模型推理
利用 94 GB VRAM 和约 3381 GB/s 的显存带宽,通过 vLLM 或 Ollama 部署大容量语言模型,实现快速的词元生成。
深度学习微调
利用 Hopper 架构特性和 9.0 计算能力,在 PyTorch 中训练和微调神经网络。
高分辨率图像生成
在显存中直接运行复杂的 ComfyUI 工作流和大型扩散管线,无需卸载到系统 RAM。
科学计算与仿真
执行受益于约 48.3 TFLOPS 单精度算力的显存密集型数据中心工作负载。
这款 GPU 适合您吗?
当您的 AI 或计算工作负载所需的显存超过标准数据中心显卡(最高需 94 GB VRAM)时,请选择 H100 NVL。对于轻量级推理和开发,较小的工作站或消费级 GPU 是更好的选择;而如果您的模型超过 94 GB,则需要多 GPU 配置或更大显存规格的机型。
与同类 GPU 对比
常见问题
H100 NVL 适合进行 LLM 推理和微调吗?
是的,其 94 GB VRAM 和约 3381 GB/s 的显存带宽使其非常适合部署和微调无法放入较小数据中心 GPU 的大语言模型。
H100 NVL 与标准版 H100 相比如何?
H100 NVL 提供扩展的 94 GB VRAM 容量和 400 W 功耗范围,与标准 Hopper 数据中心配置相比,提供了额外的显存空间。
ONIE 为这款 GPU 提供了哪些软件模板?
您可以使用预配置的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板部署 H100 NVL,所有模板均支持 9.0 计算能力。
租用 H100 NVL 时如何计费和访问?
ONIE 上的实例采用按小时计费,并提供直接的 SSH 访问,以便您立即管理环境和工作流。
按小时租用 H100 NVL
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 H100 NVL