按小時租用 NVIDIA A100 PCIE GPU
NVIDIA A100 PCIE 是採用 Ampere 架構的資料中心 GPU，配備 40 GB VRAM 與 250 W 功耗設計。它提供約 15.6 TFLOPS 的標準浮點運算能力與約 1313 GB/s 的記憶體頻寬，並支援 CUDA 運算能力 8.0。在 ONIE 上，您可以按小時計費租用此硬體，享有 SSH 存取權限，以及支援 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的現成範本。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
正在載入即時價格…
A100 PCIE 適合的應用場景
大型語言模型推論
使用 vLLM 或 Ollama 部署語言模型，充分發揮 40 GB VRAM 容量與約 1313 GB/s 記憶體頻寬的優勢來進行詞元生成。
深度學習微調
在具備運算能力 8.0 的 Ampere 資料中心架構上，透過 PyTorch/CUDA 執行訓練與微調作業。
高解析度影像生成
在 ComfyUI 中執行需要高於消費級顯示卡記憶體容量的複雜擴散工作流程。
科學與資料運算
利用約 15.6 TFLOPS 的運算效能，處理記憶體密集型的模擬與資料分析任務。
這款 GPU 適合您嗎？
當您的工作負載超過消費級 GPU 的記憶體限制，且需要高頻寬資料中心硬體時，請選擇 A100 PCIE 40 GB。若僅需輕量級推論，可選擇較小型的消費級 GPU；若您的未量化模型或批次大小超過 40 GB，則建議升級至更高 VRAM 的資料中心型號。
與同級 GPU 比較
常見問題
A100 PCIE 適合用於 LLM 推論與微調嗎？
適合，其 40 GB VRAM 與約 1313 GB/s 的記憶體頻寬非常適合部署與微調無法放入消費級顯示卡的中大型模型。您可以使用預先設定的 vLLM、Ollama 或 PyTorch/CUDA 範本快速部署工作負載。
40 GB A100 PCIE 與其他等級的 GPU 相比如何？
作為資料中心級的 Ampere 顯示卡，它提供比標準工作站或消費級 GPU 高出許多的記憶體頻寬與 VRAM。如果您的訓練或推論流程需要更大的記憶體容量，建議考慮更大型的資料中心 GPU 款式。
如何連線並設定我在 ONIE 上的執行個體？
每次租用均包含完整的 SSH 存取權限，方便直接透過命令列管理。您也可以使用 PyTorch/CUDA、vLLM、Ollama 或 ComfyUI 的現成範本啟動執行個體，立即開始作業。
A100 PCIE 的計費方式為何？
ONIE 上的執行個體採用按小時計費，讓您只需為資料中心 GPU 處於啟用狀態的時間付費。
按小時租用 A100 PCIE
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 A100 PCIE