LLM 推論
使用 vLLM、SGLang 或搭配 Open WebUI 的 Ollama 來部署與測試語言模型。
按小時或按計費週期租用 NVIDIA GPU 伺服器。比較即時配置與價格、從現成範本快速啟動,並透過 SSH 或瀏覽器終端機連線。
透過 ONIE GPU Cloud,您可以從即時庫存中租用 GPU 伺服器:選擇 GPU 型號、VRAM 與磁碟,從 PyTorch、vLLM、Ollama 或 ComfyUI 等範本啟動,然後透過 SSH 連線。按時計費的伺服器會從您的帳戶餘額扣款,而已停止的按時計費伺服器僅收取磁碟費用。
即時庫存:可用性與價格會隨市場變動。主控台會在您下單前確認最終價格。
使用 vLLM、SGLang 或搭配 Open WebUI 的 Ollama 來部署與測試語言模型。
使用 Unsloth Studio 以自有資料微調語言模型。
適用於 Flux、SDXL 與影片工作流程的 ComfyUI。
內建 NVIDIA CUDA 的 PyTorch 與 Ubuntu 24.04 映像檔,可透過 SSH 連線存取。
在瀏覽器中執行 Ubuntu 桌面環境,或依需求部署完整的 KVM 虛擬機器。
每個範本皆會列出最低 CUDA 版本、VRAM 與磁碟需求,並僅提供相容的 GPU 選項。
只要符合 GPU 記憶體容量,皆可執行:LLM 推論與微調、影像與影片生成、渲染以及 CUDA 開發。PyTorch、vLLM、SGLang、Ollama、Unsloth 與 ComfyUI 等範本會自動為您安裝所需軟體。
可使用您的金鑰透過 SSH 連線,或從主控台開啟瀏覽器終端機連線。桌面環境與 VM 範本亦提供圖形介面存取。
價格取決於即時 GPU 庫存並可能隨時變動。主控台會在您下單前顯示確認後的價格,您的伺服器將會以此確認價格計費。
採用按時計費時,已停止的伺服器僅會收取磁碟空間費用。當您不再需要其中的資料時,請刪除伺服器。
上方表格列出了目前可用的規格配置,若有庫存,亦包含配備 32 GB VRAM 的 NVIDIA RTX 5090。庫存狀況全天皆會變動。