GPU Cloud · NVIDIA · Ampere

按小时租用 NVIDIA A100 SXM4 GPU

NVIDIA A100 SXM4 是一款基于 Ampere 架构的数据中心 GPU,配备 40 GB VRAM 和 400 W 功耗范围。它在计算能力 8.0 下提供约 1313 GB/s 的显存带宽和约 15.6 TFLOPS 的单精度算力。在 ONIE 上按小时计费租用,支持直接 SSH 访问,并提供包括 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 在内的预置模板。

规格参数

单卡 VRAM

40 GB

架构

NVIDIA Ampere

计算能力

8.0

FP32 算力

≈ 15.6 TFLOPS

显存带宽

≈ 1,313 GB/s

功耗限制

400 W

数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。

可用配置

实时库存与价格,持续更新。最终价格将在您下单前确认。

正在加载实时价格…

A100 SXM4 的适用场景

LLM 推理与服务部署

使用预配置的 vLLM 或 Ollama 模板,凭借高显存吞吐量运行可在 40 GB VRAM 内加载的语言模型。

深度学习训练

在具备约 1313 GB/s 显存带宽的 Ampere 数据中心架构上,使用 PyTorch/CUDA 训练和微调神经网络。

批量图像生成

在 ComfyUI 中生成高分辨率扩散模型输出并运行复杂工作流,而不会受到消费级显卡的显存限制。

科学计算

执行受益于计算能力 8.0 和 SXM4 规格功耗上限的显存密集型模拟与数据处理工作负载。

这款 GPU 适合您吗?

当您的训练或推理工作负载超出消费级 GPU 显存限制且需要数据中心级显存带宽时,请选择 40 GB A100 SXM4。如果您的未量化模型超过 40 GB,请选择更高 VRAM 的数据中心 GPU;对于轻量级推理和开发,则可选择较小规格的工作站或消费级显卡。

与同类 GPU 对比

GPU单卡 VRAM架构FP32 算力每小时起价详情
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—详情
Q RTX 800045 GBTuring≈ 11.9 TFLOPS—详情
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—详情

常见问题

40 GB A100 SXM4 适合用于 LLM 推理和微调吗?

是的,其 40 GB VRAM 和约 1313 GB/s 的显存带宽使其非常适合中型语言模型的服务部署和参数高效微调。您可以使用提供的 vLLM、Ollama 或 PyTorch/CUDA 模板快速部署模型。

这款 40 GB SXM4 型号与其他数据中心 GPU 相比如何?

SXM4 版本以 400 W 热设计功耗运行,在计算能力 8.0 的 Ampere 架构上提供持续稳定的数据中心性能。如果您的工作负载需要超过 40 GB 的显存以避免模型分片,请考虑升级到更高容量的 Ampere 或更新一代的数据中心 GPU。

在 ONIE 上租用 A100 SXM4 如何计费?

实例在租用激活期间按小时计费。这使您可以运行密集型训练或批量推理任务,并在完成后销毁实例。

如何连接并配置我的 A100 SXM4 实例?

您可以直接通过 SSH 访问机器,并使用 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的即用型模板。只需在启动时选择您偏好的模板即可立即开始工作。

按小时租用 A100 SXM4

创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。

租用 A100 SXM4

所有 GPU →