GPU Cloud · NVIDIA · Ada Lovelace

按小時租用 NVIDIA RTX 4090 GPU

NVIDIA RTX 4090 是採用 Ada Lovelace 架構的消費級 GPU,現可在 ONIE 上租用。它配備 24 GB VRAM、約 81.4 TFLOPS 的標準浮點運算能力,以及約 879 GB/s 的記憶體頻寬。憑藉 CUDA 運算能力 8.9 與 450 W 的功耗配置,可輕鬆應對嚴苛的 AI 與圖形工作負載。

規格

每顆 GPU 的 VRAM

24 GB

架構

NVIDIA Ada Lovelace

運算能力 (Compute Capability)

8.9

FP32 算力

≈ 81.4 TFLOPS

記憶體頻寬

≈ 879 GB/s

功耗限制

450 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

RTX 4090 適合的應用場景

本地端 LLM 推論

在 24 GB VRAM 容量內,使用預先設定的 vLLM 或 Ollama 範本執行量化大型語言模型。

影像生成與擴散模型

透過 Ada Lovelace 強大的運算能力,部署 ComfyUI 工作流程以進行高解析度影像合成。

深度學習原型開發

使用 PyTorch/CUDA 範本搭配約 879 GB/s 的記憶體頻寬,訓練並微調中型神經網路。

圖形渲染與模擬

利用約 81.4 TFLOPS 的運算效能,執行光線追蹤渲染與物理模擬。

這款 GPU 適合您嗎?

當您的工作負載需要強大的 Ada Lovelace 運算能力,且能輕鬆容納於 24 GB 記憶體內時,請選擇 RTX 4090。若為輕量級推論,可選擇較小型的消費級 GPU 以降低成本;若訓練模型需要超過 24 GB 的 VRAM,則建議升級至工作站或資料中心級 GPU。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
RTX 409024 GBAda Lovelace≈ 81.4 TFLOPS—
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—詳細資訊
RTX 509032 GBBlackwell≈ 107.6 TFLOPS—詳細資訊
RTX 5090D32 GBBlackwell≈ 107.6 TFLOPS—詳細資訊

常見問題

RTX 4090 適合用於 LLM 推論與微調嗎?

適合。24 GB 的 VRAM 與約 879 GB/s 的記憶體頻寬,使其非常適合用於部署中小型語言模型以及執行參數高效微調。如果您的模型權重與上下文視窗超過 24 GB,則需要配備更大記憶體容量的工作站或資料中心級 GPU。

如何連線至 RTX 4090 執行個體?內含哪些軟體?

您可以透過 SSH 直接連線至您的執行個體。ONIE 提供包含 PyTorch/CUDA、vLLM、Ollama 與 ComfyUI 等現成範本,讓您能立即開始運用 CUDA 8.9 的運算能力。

RTX 4090 與工作站或資料中心級 GPU 相比如何?

作為一款熱設計功耗 450 W 的消費級顯示卡,RTX 4090 提供了約 81.4 TFLOPS 的高運算密度。不過,其 VRAM 上限為 24 GB,而更高階的工作站與資料中心級 GPU 則提供更大的記憶體池,以應對龐大的資料集。

租用 RTX 4090 如何計費?

ONIE 對所有 GPU 租用採用按小時計費。您只需為執行個體處於啟用狀態的時間付費。

按小時租用 RTX 4090

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 RTX 4090

所有 GPU →