LLM 推理
使用搭配 Open WebUI 的 vLLM、SGLang 或 Ollama 部署和测试语言模型。
按小时或按计费周期租用 NVIDIA GPU 服务器。对比实时配置与价格,基于预置模板快速启动,并通过 SSH 或浏览器终端连接。
借助 ONIE GPU Cloud,您可以从实时库存中租用 GPU 服务器:选择 GPU 型号、VRAM 和磁盘,基于 PyTorch、vLLM、Ollama 或 ComfyUI 等模板启动,然后通过 SSH 连接。按小时计费的服务器直接从账户余额扣费,已停止的按小时计费服务器仅收取磁盘费用。
实时库存:可用性与价格随市场波动。下单前控制台会确认最终价格。
使用搭配 Open WebUI 的 vLLM、SGLang 或 Ollama 部署和测试语言模型。
使用 Unsloth Studio 基于自有数据微调语言模型。
用于 Flux、SDXL 和视频工作流的 ComfyUI。
预装 NVIDIA CUDA 的 PyTorch 与 Ubuntu 24.04 镜像,可通过 SSH 访问。
可在浏览器中使用的 Ubuntu 桌面,或按需提供完整的 KVM 虚拟机。
每个模板均标明所需的最低 CUDA 版本、VRAM 和磁盘空间;系统仅会为其提供兼容的 GPU。
只要显存够用,可运行各类工作负载:LLM 推理与微调、图像与视频生成、渲染以及 CUDA 开发。PyTorch、vLLM、SGLang、Ollama、Unsloth 和 ComfyUI 模板会自动为您安装所需软件。
使用您的密钥通过 SSH 连接,或在控制台中通过浏览器终端连接。桌面和 VM 模板还提供图形界面访问。
价格来自实时 GPU 库存,可能会有所变动。控制台会在您下单前显示确认价格,您的云服务器将按该确认价格计费。
按小时计费时,已停止的云服务器仅收取磁盘费用。不再需要数据时,请删除云服务器。
上方表格列出了当前可用的配置,有库存时包含配备 32 GB VRAM 的 NVIDIA RTX 5090。库存情况全天动态更新。