按小时租用 NVIDIA L40S GPU
NVIDIA L40S 是一款基于 Ada Lovelace 架构的数据中心 GPU，现可在 ONIE 上按需云端租用。它在 350 W 的功耗范围内提供 45 GB VRAM、约 73.3 TFLOPS 的单精度算力以及约 626 GB/s 的显存带宽。该实例支持 CUDA 计算能力 8.9，采用按小时计费模式，可应对严苛的 AI 训练、推理和图形工作负载。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供；实际性能因机器而异。
可用配置
实时库存与价格，持续更新。最终价格将在您下单前确认。
正在加载实时价格…
L40S 的适用场景
大语言模型推理
在 45 GB 显存容量内，使用 vLLM 和 Ollama 等预设模板部署量化或全精度语言模型。
生成式图像工作流
利用 Ada Lovelace 架构，在 ComfyUI 中运行复杂的扩散流水线和批量生成任务。
深度学习微调
利用约 73.3 TFLOPS 的算力，在 PyTorch/CUDA 环境中微调神经网络和 LoRA 适配器。
数据中心图形与渲染
借助具备约 626 GB/s 显存带宽的数据中心 GPU，高效执行无头渲染与仿真任务。
这款 GPU 适合您吗？
当您的工作负载需要 45 GB VRAM 和数据中心级可靠性、超出普通消费级显卡能力时，可选择 L40S。如果您的模型所需显存较小，显存更小的工作站或消费级 GPU 会更具性价比；而未量化的超大规模基础模型则需要更大显存的数据中心 GPU。
与同类 GPU 对比
常见问题
NVIDIA L40S 适合用于 LLM 推理和微调吗？
是的，凭借 45 GB VRAM 和 CUDA 计算能力 8.9，L40S 非常适合部署大中型语言模型以及运行参数高效微调。您可以使用预配置的 vLLM、Ollama 或 PyTorch/CUDA 模板快速启动实例。
L40S 与消费级 GPU 或更大型的数据中心 GPU 相比如何？
L40S 比普通消费级 Ada Lovelace 显卡提供更大的 VRAM，无需卸载即可容纳更大的模型权重。不过，它的显存带宽低于专为纯计算设计的大显存数据中心 GPU，后者更适合超大规模的显存密集型训练任务。
如何在 ONIE 上连接和配置我的 L40S 实例？
实例启动后，您即可获得环境的完整 SSH 访问权限。您也可以选择包含 PyTorch/CUDA、ComfyUI、vLLM 和 Ollama 的预设模板，立即开始工作。
L40S 如何计费？
ONIE 对所有 L40S 租用采用按小时计费模式。您只需为实例分配的时长付费。
按小时租用 L40S
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 L40S