按小時租用 NVIDIA RTX 2070S GPU
NVIDIA RTX 2070S 是基於 Turing 架構打造的消費級 GPU,具備 8 GB VRAM 與 7.5 運算能力。在 ONIE 執行個體中,它能在 210 W 的功耗範圍內提供約 8.8 TFLOPS 的標準浮點運算效能以及約 366 GB/s 的記憶體頻寬。部署時支援按小時計費、完整 SSH 存取權限,並內建 PyTorch/CUDA、vLLM、Ollama 及 ComfyUI 等現成範本。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
正在載入即時價格…
RTX 2070S 適合的應用場景
精簡型 LLM 推論
在 8 GB VRAM 容量內,使用 Ollama 或 vLLM 範本執行經過量化的小型語言模型。
PyTorch 原型設計與除錯
在擴充至更高規格硬體前,先在具備 7.5 運算能力的 Turing GPU 上開發並測試深度學習程式碼。
輕量級影像生成
透過 ComfyUI 執行適合 8 GB 記憶體容量的標準擴散管線來生成影像。
GPU 運算工作負載
運用約 8.8 TFLOPS 的單精度運算能力與約 366 GB/s 的記憶體頻寬,執行自訂 CUDA 應用程式。
這款 GPU 適合您嗎?
若開發、除錯與輕量級推論任務可在 8 GB VRAM 內完成,建議選擇 RTX 2070S。若需訓練大型模型,請改用具備更大記憶體與更高運算能力的 GPU;若僅需進行基本腳本測試,則可選擇較低功耗的消費級顯示卡。
與同級 GPU 比較
常見問題
RTX 2070S 適合用於 LLM 推論或微調嗎?
憑藉 8 GB VRAM 與約 366 GB/s 的記憶體頻寬,RTX 2070S 可透過 Ollama 或 vLLM 處理小型量化語言模型的推論。若要進行完整微調或執行較大型的模型,則需要具備更多 VRAM 的 GPU。
我可以使用這款 GPU 搭配 ComfyUI 生成影像嗎?
可以,ONIE 提供可在 RTX 2070S 上執行的現成 ComfyUI 範本。其 8 GB VRAM 可支援標準擴散工作流程,但若為包含多個控制網路(ControlNet)的繁重管線,使用記憶體更大的 GPU 效果會更佳。
Turing 架構對軟體相容性有何影響?
RTX 2070S 支援 CUDA 運算能力 7.5,相容於標準的 PyTorch/CUDA 範本。不過,若工作負載需要較新世代架構才具備的功能,則應部署在較新的 GPU 架構上。
在 ONIE 上如何連線?計費方式為何?
執行個體會根據機器的運作時間按小時計費。您可以直接透過 SSH 連線,或啟動預先設定好的 PyTorch/CUDA、vLLM、Ollama 與 ComfyUI 範本。
按小時租用 RTX 2070S
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 RTX 2070S