GPU Cloud · NVIDIA · Hopper

按小時租用 NVIDIA H100 PCIE GPU

NVIDIA H100 PCIE 是採用 Hopper 架構的資料中心 GPU,專為高負載的深度學習與科學運算工作負載所打造。它在 350 W 的功耗範圍內,提供 80 GB 的 VRAM、約 1760 GB/s 的記憶體頻寬,以及約 41.0 TFLOPS 的標準浮點運算能力。在 ONIE 上,您可以按小時計費部署這款具備運算能力 9.0 的加速器,並享有完整的 SSH 存取權限。

規格

每顆 GPU 的 VRAM

80 GB

架構

NVIDIA Hopper

運算能力 (Compute Capability)

9.0

FP32 算力

≈ 41 TFLOPS

記憶體頻寬

≈ 1,760 GB/s

功耗限制

350 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

正在載入即時價格…

H100 PCIE 適合的應用場景

大型語言模型推論

利用 80 GB 的 VRAM 與高記憶體頻寬,搭配預先設定好的 vLLM 或 Ollama 範本,在記憶體中運行大型語言模型。

模型微調與訓練

運用 Hopper 架構以及準備就緒的 PyTorch/CUDA 環境,訓練或微調深度神經網路。

批次圖像生成

執行高吞吐量的擴散管線與複雜的 ComfyUI 工作流程,充分發揮大容量記憶體的優勢。

資料科學與模擬

透過約 41.0 TFLOPS 的標準浮點運算效能與約 1760 GB/s 的記憶體吞吐量,執行運算密集的模擬與資料處理任務。

這款 GPU 適合您嗎?

當您的工作負載需要 80 GB 的 VRAM、資料中心等級的記憶體頻寬,以及 Hopper 運算能力 9.0 的功能時,請選擇 H100 PCIE。對於較輕量的推論或較小的模型,配備較少 VRAM 的工作站或消費級 GPU 會更具經濟效益;而極致的吞吐量需求則可能適合採用 SXM 架構的資料中心版本。

與同級 GPU 比較

GPU每顆 GPU 的 VRAM架構FP32 算力每小時起價詳細資訊
H100 PCIE80 GBHopper≈ 41 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—詳細資訊
H100 SXM80 GBHopper≈ 53.5 TFLOPS—詳細資訊
RTX A600048 GBAmpere≈ 36.1 TFLOPS—詳細資訊

常見問題

H100 PCIE 適合用於 LLM 微調與推論嗎?

是的,其 80 GB 的 VRAM 與約 1760 GB/s 的記憶體頻寬,非常適合用於託管與訓練大型模型。您可以使用預先設定的 PyTorch/CUDA、vLLM 或 Ollama 範本立即開始。

H100 PCIE 與 SXM 或較小型的工作站 GPU 相比如何?

H100 PCIE 以 350 W TDP 運作,與更高瓦數的 SXM 資料中心版本相比,具備較低的功耗與標準 PCIe 相容性。與工作站或消費級顯示卡相比,它提供高達 80 GB 的充裕 VRAM 以及更高的記憶體頻寬。

這款 GPU 具備哪些軟體支援與運算能力?

H100 PCIE 基於 NVIDIA Hopper 架構,支援 CUDA 運算能力 9.0。您可以使用包含 PyTorch/CUDA 和 ComfyUI 的現成範本啟動執行個體,或透過 SSH 存取權限自行設定軟體環境。

ONIE 上的 H100 PCIE 執行個體如何計費?

ONIE 上的執行個體採用簡明扼要的按小時計費方式,因此您只需為 GPU 實際運作的時間付費。每次部署皆包含完整的 SSH 存取權限。

按小時租用 H100 PCIE

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。

租用 H100 PCIE

所有 GPU →