GPU Cloud · NVIDIA · Ampere

按小时租用 NVIDIA RTX 3090 GPU

NVIDIA RTX 3090 是一款基于 Ampere 架构的消费级 GPU,配备 24 GB VRAM,计算能力达 8.6。在 350 W 的额定功率下,它可提供约 35.4 TFLOPS 的标准单精度算力和约 805 GB/s 的显存带宽。您可以在 ONIE 上按小时计费租用此 GPU,获得完整的 SSH 访问权限,以及预置的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板。

规格参数

单卡 VRAM

24 GB

架构

NVIDIA Ampere

计算能力

8.6

FP32 算力

≈ 35.4 TFLOPS

显存带宽

≈ 805 GB/s

功耗限制

350 W

数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。

可用配置

实时库存与价格,持续更新。最终价格将在您下单前确认。

正在加载实时价格…

RTX 3090 的适用场景

本地规模的 LLM 推理

使用预配置的 vLLM 或 Ollama 模板,在 24 GB VRAM 中运行量化模型或中等规模的语言模型。

图像生成工作流

部署 ComfyUI 以生成高分辨率图像并运行自定义扩散流水线,避免遇到普通消费级显卡的显存瓶颈。

模型微调与训练

使用 PyTorch/CUDA 模板在 24 GB 显存范围内微调神经网络,并充分利用约 805 GB/s 的显存带宽。

通用 CUDA 计算

凭借约 35.4 TFLOPS 的单精度性能,执行针对计算能力 8.6 编译的自定义工作负载。

这款 GPU 适合您吗?

RTX 3090 非常适合需要 24 GB VRAM 的消费级 Ampere 显卡来处理显存密集型任务的开发者和研究人员。对于显存需求较低的轻量级推理,可以选择更小规格的 GPU;如果您的模型超出 24 GB VRAM 或需要更新架构的特性,建议升级至工作站级或数据中心级 GPU。

与同类 GPU 对比

GPU单卡 VRAM架构FP32 算力每小时起价详情
RTX 309024 GBAmpere≈ 35.4 TFLOPS—
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—详情
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—详情
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—详情

常见问题

RTX 3090 适合用于 LLM 推理和微调吗?

是的,其 24 GB VRAM 和约 805 GB/s 的显存带宽使其能够运行并微调许多开放权重的语言模型。您可以直接在 ONIE 上启动 vLLM、Ollama 或 PyTorch/CUDA 模板,立即开展工作。

RTX 3090 与更小或更大规格的 GPU 相比如何?

凭借 24 GB VRAM,RTX 3090 比低阶消费级显卡能容纳更多的模型权重和更大的批处理大小(batch size)。不过,如果您的工作负载需要超过 24 GB 的显存或高于约 35.4 TFLOPS 的单精度算力,建议考虑更新一代或数据中心级的 GPU。

如何连接到我的 RTX 3090 实例?其中包含哪些软件?

您可以通过 SSH 直接连接到您的实例。ONIE 提供即用型的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板,让您无需手动配置软件栈。

ONIE 上的 RTX 3090 是如何计费的?

实例按小时计费。您只需为 GPU 实例处于活动状态的时间付费。

按小时租用 RTX 3090

创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。

租用 RTX 3090

所有 GPU →