按小时租用 NVIDIA A100 SXM4 GPU
NVIDIA A100 SXM4 是一款基于 Ampere 架构的数据中心 GPU,配备 40 GB VRAM 和 400 W 功耗范围。它在计算能力 8.0 下提供约 1313 GB/s 的显存带宽和约 15.6 TFLOPS 的单精度算力。在 ONIE 上按小时计费租用,支持直接 SSH 访问,并提供包括 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 在内的预置模板。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。
可用配置
实时库存与价格,持续更新。最终价格将在您下单前确认。
正在加载实时价格…
A100 SXM4 的适用场景
LLM 推理与服务部署
使用预配置的 vLLM 或 Ollama 模板,凭借高显存吞吐量运行可在 40 GB VRAM 内加载的语言模型。
深度学习训练
在具备约 1313 GB/s 显存带宽的 Ampere 数据中心架构上,使用 PyTorch/CUDA 训练和微调神经网络。
批量图像生成
在 ComfyUI 中生成高分辨率扩散模型输出并运行复杂工作流,而不会受到消费级显卡的显存限制。
科学计算
执行受益于计算能力 8.0 和 SXM4 规格功耗上限的显存密集型模拟与数据处理工作负载。
这款 GPU 适合您吗?
当您的训练或推理工作负载超出消费级 GPU 显存限制且需要数据中心级显存带宽时,请选择 40 GB A100 SXM4。如果您的未量化模型超过 40 GB,请选择更高 VRAM 的数据中心 GPU;对于轻量级推理和开发,则可选择较小规格的工作站或消费级显卡。
与同类 GPU 对比
常见问题
40 GB A100 SXM4 适合用于 LLM 推理和微调吗?
是的,其 40 GB VRAM 和约 1313 GB/s 的显存带宽使其非常适合中型语言模型的服务部署和参数高效微调。您可以使用提供的 vLLM、Ollama 或 PyTorch/CUDA 模板快速部署模型。
这款 40 GB SXM4 型号与其他数据中心 GPU 相比如何?
SXM4 版本以 400 W 热设计功耗运行,在计算能力 8.0 的 Ampere 架构上提供持续稳定的数据中心性能。如果您的工作负载需要超过 40 GB 的显存以避免模型分片,请考虑升级到更高容量的 Ampere 或更新一代的数据中心 GPU。
在 ONIE 上租用 A100 SXM4 如何计费?
实例在租用激活期间按小时计费。这使您可以运行密集型训练或批量推理任务,并在完成后销毁实例。
如何连接并配置我的 A100 SXM4 实例?
您可以直接通过 SSH 访问机器,并使用 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的即用型模板。只需在启动时选择您偏好的模板即可立即开始工作。
按小时租用 A100 SXM4
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 A100 SXM4