按小時租用 NVIDIA H100 PCIE GPU
NVIDIA H100 PCIE 是採用 Hopper 架構的資料中心 GPU,專為高負載的深度學習與科學運算工作負載所打造。它在 350 W 的功耗範圍內,提供 80 GB 的 VRAM、約 1760 GB/s 的記憶體頻寬,以及約 41.0 TFLOPS 的標準浮點運算能力。在 ONIE 上,您可以按小時計費部署這款具備運算能力 9.0 的加速器,並享有完整的 SSH 存取權限。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
正在載入即時價格…
H100 PCIE 適合的應用場景
大型語言模型推論
利用 80 GB 的 VRAM 與高記憶體頻寬,搭配預先設定好的 vLLM 或 Ollama 範本,在記憶體中運行大型語言模型。
模型微調與訓練
運用 Hopper 架構以及準備就緒的 PyTorch/CUDA 環境,訓練或微調深度神經網路。
批次圖像生成
執行高吞吐量的擴散管線與複雜的 ComfyUI 工作流程,充分發揮大容量記憶體的優勢。
資料科學與模擬
透過約 41.0 TFLOPS 的標準浮點運算效能與約 1760 GB/s 的記憶體吞吐量,執行運算密集的模擬與資料處理任務。
這款 GPU 適合您嗎?
當您的工作負載需要 80 GB 的 VRAM、資料中心等級的記憶體頻寬,以及 Hopper 運算能力 9.0 的功能時,請選擇 H100 PCIE。對於較輕量的推論或較小的模型,配備較少 VRAM 的工作站或消費級 GPU 會更具經濟效益;而極致的吞吐量需求則可能適合採用 SXM 架構的資料中心版本。
與同級 GPU 比較
常見問題
H100 PCIE 適合用於 LLM 微調與推論嗎?
是的,其 80 GB 的 VRAM 與約 1760 GB/s 的記憶體頻寬,非常適合用於託管與訓練大型模型。您可以使用預先設定的 PyTorch/CUDA、vLLM 或 Ollama 範本立即開始。
H100 PCIE 與 SXM 或較小型的工作站 GPU 相比如何?
H100 PCIE 以 350 W TDP 運作,與更高瓦數的 SXM 資料中心版本相比,具備較低的功耗與標準 PCIe 相容性。與工作站或消費級顯示卡相比,它提供高達 80 GB 的充裕 VRAM 以及更高的記憶體頻寬。
這款 GPU 具備哪些軟體支援與運算能力?
H100 PCIE 基於 NVIDIA Hopper 架構,支援 CUDA 運算能力 9.0。您可以使用包含 PyTorch/CUDA 和 ComfyUI 的現成範本啟動執行個體,或透過 SSH 存取權限自行設定軟體環境。
ONIE 上的 H100 PCIE 執行個體如何計費?
ONIE 上的執行個體採用簡明扼要的按小時計費方式,因此您只需為 GPU 實際運作的時間付費。每次部署皆包含完整的 SSH 存取權限。
按小時租用 H100 PCIE
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 H100 PCIE