按小时租用 NVIDIA RTX 3090 GPU
NVIDIA RTX 3090 是一款基于 Ampere 架构的消费级 GPU,配备 24 GB VRAM,计算能力达 8.6。在 350 W 的额定功率下,它可提供约 35.4 TFLOPS 的标准单精度算力和约 805 GB/s 的显存带宽。您可以在 ONIE 上按小时计费租用此 GPU,获得完整的 SSH 访问权限,以及预置的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板。
规格参数
单卡 VRAM
架构
计算能力
FP32 算力
显存带宽
功耗限制
数值由基础设施提供商根据当前上架机器提供;实际性能因机器而异。
可用配置
实时库存与价格,持续更新。最终价格将在您下单前确认。
正在加载实时价格…
RTX 3090 的适用场景
本地规模的 LLM 推理
使用预配置的 vLLM 或 Ollama 模板,在 24 GB VRAM 中运行量化模型或中等规模的语言模型。
图像生成工作流
部署 ComfyUI 以生成高分辨率图像并运行自定义扩散流水线,避免遇到普通消费级显卡的显存瓶颈。
模型微调与训练
使用 PyTorch/CUDA 模板在 24 GB 显存范围内微调神经网络,并充分利用约 805 GB/s 的显存带宽。
通用 CUDA 计算
凭借约 35.4 TFLOPS 的单精度性能,执行针对计算能力 8.6 编译的自定义工作负载。
这款 GPU 适合您吗?
RTX 3090 非常适合需要 24 GB VRAM 的消费级 Ampere 显卡来处理显存密集型任务的开发者和研究人员。对于显存需求较低的轻量级推理,可以选择更小规格的 GPU;如果您的模型超出 24 GB VRAM 或需要更新架构的特性,建议升级至工作站级或数据中心级 GPU。
与同类 GPU 对比
常见问题
RTX 3090 适合用于 LLM 推理和微调吗?
是的,其 24 GB VRAM 和约 805 GB/s 的显存带宽使其能够运行并微调许多开放权重的语言模型。您可以直接在 ONIE 上启动 vLLM、Ollama 或 PyTorch/CUDA 模板,立即开展工作。
RTX 3090 与更小或更大规格的 GPU 相比如何?
凭借 24 GB VRAM,RTX 3090 比低阶消费级显卡能容纳更多的模型权重和更大的批处理大小(batch size)。不过,如果您的工作负载需要超过 24 GB 的显存或高于约 35.4 TFLOPS 的单精度算力,建议考虑更新一代或数据中心级的 GPU。
如何连接到我的 RTX 3090 实例?其中包含哪些软件?
您可以通过 SSH 直接连接到您的实例。ONIE 提供即用型的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板,让您无需手动配置软件栈。
ONIE 上的 RTX 3090 是如何计费的?
实例按小时计费。您只需为 GPU 实例处于活动状态的时间付费。
按小时租用 RTX 3090
创建账户、选择配置并通过 SSH 连接。删除 GPU 后即停止计费。
租用 RTX 3090