GPU Cloud · NVIDIA · Ampere

按小時租用 NVIDIA RTX 3090 Ti GPU

NVIDIA RTX 3090 Ti 是一款採用 Ampere 架構的消費級 GPU,配備 24 GB VRAM 與 450 W 熱設計功耗。它提供約 36.4 TFLOPS 的單精度運算能力與約 865 GB/s 的記憶體頻寬,並支援 CUDA 運算能力 8.6。在 ONIE 上,您可以透過按小時計費、直接 SSH 存取以及預先設定的軟體範本來租用此硬體。

規格

每顆 GPU 的 VRAM

24 GB

架構

NVIDIA Ampere

運算能力 (Compute Capability)

8.6

FP32 算力

≈ 36.4 TFLOPS

記憶體頻寬

≈ 865 GB/s

功耗限制

450 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

RTX 3090 Ti 適合的應用場景

本機 LLM 推論

使用現成的 vLLM 或 Ollama 範本,順暢執行可容納於 24 GB VRAM 內的量化語言模型。

生成式影像工作流程

透過 ComfyUI 範本並運用約 865 GB/s 的記憶體頻寬,執行複雜的擴散管線與自訂節點圖。

深度學習原型開發

憑藉 CUDA 運算能力 8.6 與約 36.4 TFLOPS 的單精度運算效能,在 PyTorch 中開發及測試神經網路。

LoRA 微調

在不超過 24 GB 記憶體上限的情況下,訓練輕量級介面卡並微調中型視覺或文字模型。

這款 GPU 適合您嗎?

對於需要在 Ampere 消費級顯示卡上具備 24 GB VRAM 以進行推論或中度訓練任務的開發人員與研究人員而言,RTX 3090 Ti 是實用的選擇。若您僅執行小型模型,可選擇記憶體較低的 GPU;若您的工作負載需要超過 24 GB 的 VRAM 或較新的架構功能,則建議升級至工作站或資料中心級 GPU。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—
RTX 309024 GBAmpere≈ 35.4 TFLOPS—詳細資訊
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—詳細資訊
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—詳細資訊

常見問題

RTX 3090 Ti 適合用於 LLM 推論與影像生成嗎?

是的,其 24 GB VRAM 與約 865 GB/s 的記憶體頻寬非常適合託管中型或量化語言模型,以及執行影像生成工作流程。您可以啟動預先設定的 vLLM、Ollama 或 ComfyUI 範本以立即開始使用。

RTX 3090 Ti 與較新的消費級或工作站 GPU 相比如何?

作為具備 8.6 運算能力的 Ampere 世代消費級 GPU,它提供與較新高階消費級顯示卡相同的 24 GB VRAM 容量,不過較新的架構通常比其 450 W 設計提供更高的運算吞吐量與電源效率。若您的工作負載主要受限於記憶體容量且可容納於 24 GB 內,它依然是個能勝任的選擇。

我要如何連線至 ONIE 上的 RTX 3090 Ti 執行個體?

當您的執行個體處於執行中狀態時,您可以直接透過 SSH 連線以取得完整的命令列控制權。您也可以部署支援 CUDA 的 PyTorch、vLLM、Ollama 或 ComfyUI 等現成範本。

租用此 GPU 的計費方式為何?

ONIE 上的執行個體採用按小時計費,讓您只需為 RTX 3090 Ti 環境處於啟用狀態的時間付費。

按小時租用 RTX 3090 Ti

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 RTX 3090 Ti

所有 GPU →