按小時租用 NVIDIA Q RTX 4000 GPU
NVIDIA Q RTX 4000 是一款基於 Turing 架構的工作站 GPU,可在 ONIE 上租用,適用於入門級 AI 與圖形工作負載。它在 125 W 的功耗規格下提供 8 GB VRAM、約 7.7 TFLOPS 的單精度運算效能,以及約 353 GB/s 的記憶體頻寬。此執行個體支援 CUDA 運算能力 7.5,並可使用現成的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本進行部署。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
正在載入即時價格…
Q RTX 4000 適合的應用場景
程式碼原型設計與除錯
在擴充至更大規模的硬體之前,先在 8 GB 工作站 GPU 上測試並驗證 PyTorch/CUDA 管線。
小型模型推論
透過 Ollama 或 vLLM 執行能輕鬆容納於 8 GB VRAM 內的小型語言模型。
基礎影像生成
在 ComfyUI 中執行不超過 8 GB 記憶體限制的標準影像生成工作流程。
工作站圖形處理與算圖
善用 Turing 架構與約 353 GB/s 的記憶體頻寬,處理遠端算圖與視覺化任務。
這款 GPU 適合您嗎?
若工作負載為可容納於 8 GB VRAM 及運算能力 7.5 內的輕量級推論、算圖與程式碼開發,請選擇 Q RTX 4000。若需進行繁重的模型訓練或大規模推論,請選擇具備更多記憶體與更新架構的大型 GPU;若僅為基本顯示或極小量運算任務,則可挑選更小型的 GPU。
與同級 GPU 比較
常見問題
Q RTX 4000 適合用於 LLM 推論與微調嗎?
憑藉 8 GB VRAM 與約 7.7 TFLOPS 的單精度效能,它適合使用 Ollama 或 vLLM 進行小型模型推論。若要執行較大的模型或完整微調工作負載,建議選擇具備更多 VRAM 且記憶體頻寬高於約 353 GB/s 的 GPU。
這款 GPU 可以用於 ComfyUI 與影像生成嗎?
可以,ONIE 提供可在此款 Turing 工作站 GPU 上執行的現成 ComfyUI 範本。它能處理可容納於 8 GB 記憶體內的標準生成管線,但較大型的管線則需要配備更大記憶體容量的 GPU。
如何連線至執行個體?預先安裝了哪些軟體?
您可以透過 SSH 直接連線至執行中的執行個體。ONIE 提供包含 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的預先設定範本,讓您能立即開始工作。
ONIE 上的 Q RTX 4000 如何計費?
在您的工作站 GPU 啟用期間,執行個體會按小時制計費。這讓您能執行開發或算圖工作階段,並在完成後終止執行個體。
按小時租用 Q RTX 4000
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 Q RTX 4000