GPU Cloud · NVIDIA · Turing

按小時租用 NVIDIA Q RTX 4000 GPU

NVIDIA Q RTX 4000 是一款基於 Turing 架構的工作站 GPU,可在 ONIE 上租用,適用於入門級 AI 與圖形工作負載。它在 125 W 的功耗規格下提供 8 GB VRAM、約 7.7 TFLOPS 的單精度運算效能,以及約 353 GB/s 的記憶體頻寬。此執行個體支援 CUDA 運算能力 7.5,並可使用現成的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本進行部署。

規格

每顆 GPU 的 VRAM

8 GB

架構

NVIDIA Turing

運算能力 (Compute Capability)

7.5

FP32 算力

≈ 7.7 TFLOPS

記憶體頻寬

≈ 353 GB/s

功耗限制

125 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

Q RTX 4000 適合的應用場景

程式碼原型設計與除錯

在擴充至更大規模的硬體之前,先在 8 GB 工作站 GPU 上測試並驗證 PyTorch/CUDA 管線。

小型模型推論

透過 Ollama 或 vLLM 執行能輕鬆容納於 8 GB VRAM 內的小型語言模型。

基礎影像生成

在 ComfyUI 中執行不超過 8 GB 記憶體限制的標準影像生成工作流程。

工作站圖形處理與算圖

善用 Turing 架構與約 353 GB/s 的記憶體頻寬,處理遠端算圖與視覺化任務。

這款 GPU 適合您嗎?

若工作負載為可容納於 8 GB VRAM 及運算能力 7.5 內的輕量級推論、算圖與程式碼開發,請選擇 Q RTX 4000。若需進行繁重的模型訓練或大規模推論,請選擇具備更多記憶體與更新架構的大型 GPU;若僅為基本顯示或極小量運算任務,則可挑選更小型的 GPU。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
Q RTX 40008 GBTuring≈ 7.7 TFLOPS—
RTX 20708 GBTuring≈ 7.7 TFLOPS—詳細資訊
GTX 10808 GBPascal≈ 7.8 TFLOPS—詳細資訊
RTX 2060S8 GBTuring≈ 7.5 TFLOPS—詳細資訊

常見問題

Q RTX 4000 適合用於 LLM 推論與微調嗎?

憑藉 8 GB VRAM 與約 7.7 TFLOPS 的單精度效能,它適合使用 Ollama 或 vLLM 進行小型模型推論。若要執行較大的模型或完整微調工作負載,建議選擇具備更多 VRAM 且記憶體頻寬高於約 353 GB/s 的 GPU。

這款 GPU 可以用於 ComfyUI 與影像生成嗎?

可以,ONIE 提供可在此款 Turing 工作站 GPU 上執行的現成 ComfyUI 範本。它能處理可容納於 8 GB 記憶體內的標準生成管線,但較大型的管線則需要配備更大記憶體容量的 GPU。

如何連線至執行個體?預先安裝了哪些軟體?

您可以透過 SSH 直接連線至執行中的執行個體。ONIE 提供包含 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的預先設定範本,讓您能立即開始工作。

ONIE 上的 Q RTX 4000 如何計費?

在您的工作站 GPU 啟用期間,執行個體會按小時制計費。這讓您能執行開發或算圖工作階段,並在完成後終止執行個體。

按小時租用 Q RTX 4000

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 Q RTX 4000

所有 GPU →