GPU Cloud · NVIDIA · Ampere

按小時租用 NVIDIA RTX 3090 GPU

NVIDIA RTX 3090 是採用 Ampere 架構的消費級 GPU,配備 24 GB VRAM 與 8.6 運算能力。它在 350 W 額定功率下,提供約 35.4 TFLOPS 的標準單精度運算效能與約 805 GB/s 的記憶體頻寬。您可以在 ONIE 上以按小時計費的方式租用此 GPU,享有完整的 SSH 存取權限,以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的範本。

規格

每顆 GPU 的 VRAM

24 GB

架構

NVIDIA Ampere

運算能力 (Compute Capability)

8.6

FP32 算力

≈ 35.4 TFLOPS

記憶體頻寬

≈ 805 GB/s

功耗限制

350 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

RTX 3090 適合的應用場景

本機規模 LLM 推論

使用預先配置的 vLLM 或 Ollama 範本,在 24 GB VRAM 中執行量化或中型語言模型。

圖像生成工作流程

部署 ComfyUI 以生成高解析度圖像並執行自訂擴散流程,不會受限於標準消費級顯示卡的記憶體上限。

模型微調與訓練

使用 PyTorch/CUDA 範本微調適合 24 GB 記憶體容量的神經網路,並充分發揮約 805 GB/s 的記憶體頻寬。

一般 CUDA 運算

以約 35.4 TFLOPS 的單精度效能,執行針對運算能力 8.6 編譯的自訂工作負載。

這款 GPU 適合您嗎?

RTX 3090 適合需要在消費級 Ampere 顯示卡上使用 24 GB VRAM 進行記憶體密集型任務的開發人員與研究人員。針對記憶體需求較低的輕量級推論,您可以選擇較小的 GPU;若您的模型超過 24 GB VRAM 或需要較新的架構功能,則建議升級至工作站或資料中心等級的 GPU。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
RTX 309024 GBAmpere≈ 35.4 TFLOPS—
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—詳細資訊
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—詳細資訊
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—詳細資訊

常見問題

RTX 3090 適合用於 LLM 推論與微調嗎?

是的,其 24 GB VRAM 與約 805 GB/s 的記憶體頻寬,使其足以執行與微調許多開放權重語言模型。您可以直接在 ONIE 上啟動 vLLM、Ollama 或 PyTorch/CUDA 範本,立即開始工作。

RTX 3090 與較小或較大的 GPU 相比如何?

憑藉 24 GB VRAM,RTX 3090 比低階消費級顯示卡能容納明顯更多的模型權重與更大的批次大小。然而,若您的工作負載需要超過 24 GB 的記憶體,或高於約 35.4 TFLOPS 的單精度運算效能,則應考慮更新世代或資料中心等級的 GPU。

我該如何連線至我的 RTX 3090 執行個體?其中包含哪些軟體?

您可以透過 SSH 存取權限直接連線至您的執行個體。ONIE 提供開箱即用的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本,讓您無需手動配置軟體環境。

ONIE 上的 RTX 3090 如何計費?

執行個體採按小時計費。您只需為 GPU 執行個體處於啟用狀態的時間付費。

按小時租用 RTX 3090

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 RTX 3090

所有 GPU →