按小時租用 NVIDIA RTX 3090 GPU
NVIDIA RTX 3090 是採用 Ampere 架構的消費級 GPU,配備 24 GB VRAM 與 8.6 運算能力。它在 350 W 額定功率下,提供約 35.4 TFLOPS 的標準單精度運算效能與約 805 GB/s 的記憶體頻寬。您可以在 ONIE 上以按小時計費的方式租用此 GPU,享有完整的 SSH 存取權限,以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的範本。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
正在載入即時價格…
RTX 3090 適合的應用場景
本機規模 LLM 推論
使用預先配置的 vLLM 或 Ollama 範本,在 24 GB VRAM 中執行量化或中型語言模型。
圖像生成工作流程
部署 ComfyUI 以生成高解析度圖像並執行自訂擴散流程,不會受限於標準消費級顯示卡的記憶體上限。
模型微調與訓練
使用 PyTorch/CUDA 範本微調適合 24 GB 記憶體容量的神經網路,並充分發揮約 805 GB/s 的記憶體頻寬。
一般 CUDA 運算
以約 35.4 TFLOPS 的單精度效能,執行針對運算能力 8.6 編譯的自訂工作負載。
這款 GPU 適合您嗎?
RTX 3090 適合需要在消費級 Ampere 顯示卡上使用 24 GB VRAM 進行記憶體密集型任務的開發人員與研究人員。針對記憶體需求較低的輕量級推論,您可以選擇較小的 GPU;若您的模型超過 24 GB VRAM 或需要較新的架構功能,則建議升級至工作站或資料中心等級的 GPU。
與同級 GPU 比較
常見問題
RTX 3090 適合用於 LLM 推論與微調嗎?
是的,其 24 GB VRAM 與約 805 GB/s 的記憶體頻寬,使其足以執行與微調許多開放權重語言模型。您可以直接在 ONIE 上啟動 vLLM、Ollama 或 PyTorch/CUDA 範本,立即開始工作。
RTX 3090 與較小或較大的 GPU 相比如何?
憑藉 24 GB VRAM,RTX 3090 比低階消費級顯示卡能容納明顯更多的模型權重與更大的批次大小。然而,若您的工作負載需要超過 24 GB 的記憶體,或高於約 35.4 TFLOPS 的單精度運算效能,則應考慮更新世代或資料中心等級的 GPU。
我該如何連線至我的 RTX 3090 執行個體?其中包含哪些軟體?
您可以透過 SSH 存取權限直接連線至您的執行個體。ONIE 提供開箱即用的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本,讓您無需手動配置軟體環境。
ONIE 上的 RTX 3090 如何計費?
執行個體採按小時計費。您只需為 GPU 執行個體處於啟用狀態的時間付費。
按小時租用 RTX 3090
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 RTX 3090