按小时租用 NVIDIA A40 GPU
NVIDIA A40 是一款基于 Ampere 架构构建的数据中心 GPU，具备 8.6 计算能力和 45 GB VRAM。在 ONIE 上，它在 300 W 功耗范围内提供约 29.9 TFLOPS 的单精度性能和约 536 GB/s 的显存带宽。您可以通过按小时计费、完整的 SSH 访问权限以及包含 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的预置模板来进行部署。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供；实际性能因机器而异。
可用配置
实时库存与价格，持续更新。最终价格将在您下单前确认。
正在加载实时价格…
A40 的适用场景
大语言模型推理
使用预配置的 vLLM 或 Ollama 模板，运行需要高达 45 GB 显存的模型。
深度学习微调
利用充足的 VRAM 在 PyTorch/CUDA 中微调神经网络，支持更大的批次大小和权重。
生成式图像工作流
使用 ComfyUI 执行复杂的扩散管线，并在显存中同时保留多个模型检查点。
数据中心计算任务
利用约 29.9 TFLOPS 的单精度算力和约 536 GB/s 的显存带宽，处理仿真和渲染工作负载。
这款 GPU 适合您吗？
当您的工作负载需要基于数据中心级 Ampere 架构的 45 GB VRAM（超出标准消费级显卡容量）时，请选择 A40。如果您的模型可以在较小显存中运行，可以选择显存较小的消费级显卡；如果您的训练任务受到显存吞吐量的严重制约，则可以升级到更高带宽的数据中心 GPU。
与同类 GPU 对比
常见问题
NVIDIA A40 适合用于 LLM 推理和微调吗？
是的，45 GB 的 VRAM 容量使 A40 非常适合托管中大型语言模型并执行参数高效微调。您可以直接在 ONIE 上启动 vLLM、Ollama 或 PyTorch/CUDA 模板，立即开始工作。
与较小的消费级 GPU 或更大的数据中心 GPU 相比，A40 表现如何？
A40 提供 45 GB VRAM，针对显存受限型工作负载，它比标准消费级 GPU 具有更大的显存余量。不过，其约 536 GB/s 的显存带宽低于采用 HBM 显存的更高端数据中心 GPU。
在 ONIE 上，A40 支持哪些软件环境？
A40 支持 CUDA 计算能力 8.6，并可使用 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的预置模板进行部署。同时提供完整的 SSH 访问权限，方便您根据需要自定义软件栈。
A40 实例如何计费？
ONIE 对所有 A40 租用均采用按小时计费模式。您只需为实例处于活动状态的时间付费，无论是短期实验还是长期生产运行都非常实用。
按小时租用 A40
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 A40