按小時租用 NVIDIA L4 GPU
NVIDIA L4 是採用 Ada Lovelace 架構的資料中心 GPU，配備 22 GB VRAM 與 72 W 功耗上限。它具備 CUDA 運算能力 8.9，可提供約 24.2 TFLOPS 的單精度浮點運算效能，以及約 221 GB/s 的記憶體頻寬。在 ONIE 上以小時計費租用，享有完整 SSH 存取權限，以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的範本。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
正在載入即時價格…
L4 適合的應用場景
語言模型推論
使用預先配置的 vLLM 或 Ollama 範本，在 22 GB VRAM 緩衝區中執行量化或中小型語言模型。
影像生成工作流程
部署可輕鬆容納於 22 GB 記憶體內的 ComfyUI 工作流程，同時發揮 Ada Lovelace 架構的各項特性。
輕量級微調
在 PyTorch/CUDA 環境中執行參數高效微調與 Adapter 訓練任務，無需動用高瓦數的資料中心顯示卡。
批次媒體與視覺處理
在額定功耗 72 W 的資料中心 GPU 上處理電腦視覺推論與影音工作負載。
這款 GPU 適合您嗎？
當您的推論或中度訓練工作負載需要 22 GB VRAM 與 Ada Lovelace 運算能力 8.9 時，請選擇 L4。若您的模型超過 22 GB 或需要高於約 221 GB/s 的記憶體頻寬，請改用更大規模的資料中心 GPU；若為記憶體需求較低的基礎開發任務，則可選擇較小型的顯示卡。
與同級 GPU 比較
常見問題
NVIDIA L4 適合用於 LLM 推論嗎？
適合，22 GB 的 VRAM 可讓您部署中小型語言模型或量化權重。您可以在 ONIE 上啟動 vLLM 或 Ollama 範本，立即開始提供模型服務。
L4 與更大型的資料中心 GPU 相比如何？
L4 專為高效率而設計，功耗為 72 W，具備約 24.2 TFLOPS 的單精度運算能力與約 221 GB/s 的記憶體頻寬。更大型的資料中心 GPU 提供更多 VRAM 與更高的記憶體頻寬以應付繁重的訓練任務，而 L4 則專注於具成本效益的推論與輕量級工作負載。
在 ONIE 上有哪些適用於 L4 的軟體範本？
您可以使用預先配置的 PyTorch/CUDA、vLLM、Ollama 及 ComfyUI 範本來部署 L4。所有執行個體皆包含 SSH 存取權限，方便您自訂軟體環境與 CUDA 運算能力 8.9 的工作流程。
L4 執行個體如何計費？
ONIE 的 L4 執行個體採用按小時計費。您只需為執行個體運作的時間付費，無論是短期實驗或持續性的推論任務都相當實用。
按小時租用 L4
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 L4