按小時租用 NVIDIA L40S GPU
NVIDIA L40S 是採用 Ada Lovelace 架構的資料中心 GPU，可在 ONIE 上進行雲端租用。它在 350 W 的功耗範圍內，提供 45 GB 的 VRAM、約 73.3 TFLOPS 的單精度運算能力，以及約 626 GB/s 的記憶體頻寬。此執行個體支援 CUDA 運算能力 8.9，並採用按小時計費，可應付嚴苛的 AI 訓練、推論與圖形工作負載。
規格
每顆 GPU 的 VRAM
架構
運算能力 (Compute Capability)
FP32 算力
記憶體頻寬
功耗限制
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
正在載入即時價格…
L40S 適合的應用場景
大型語言模型推論
在 45 GB 的記憶體容量內，使用 vLLM 與 Ollama 等現成範本部署量化或全精度語言模型。
生成式影像工作流程
運用 Ada Lovelace 架構，在 ComfyUI 中執行複雜的擴散管線與批次生成任務。
深度學習微調
在 PyTorch/CUDA 環境中，運用約 73.3 TFLOPS 的運算能力微調類神經網路與 LoRA 適配器。
資料中心圖形與算圖
執行無頭算圖與模擬任務，充分發揮具備約 626 GB/s 記憶體頻寬的資料中心 GPU 優勢。
這款 GPU 適合您嗎？
當您的工作負載需要 45 GB 的 VRAM 與資料中心等級的穩定性，且標準消費級顯示卡已不敷使用時，請選擇 L40S。若您的模型所需的記憶體較少，選擇較小的工作站或消費級 GPU 會更具經濟效益；而龐大的未量化基礎模型，則需要使用記憶體容量更大的資料中心 GPU。
與同級 GPU 比較
常見問題
NVIDIA L40S 適合用於 LLM 推論與微調嗎？
適合，憑藉 45 GB 的 VRAM 與 CUDA 運算能力 8.9，L40S 非常適合用於部署中大型語言模型，以及執行參數高效微調。您可以使用預先配置好的 vLLM、Ollama 或 PyTorch/CUDA 範本來啟動執行個體。
L40S 與消費級 GPU 或更大型的資料中心 GPU 相比如何？
L40S 提供比標準消費級 Ada Lovelace 顯示卡更多的 VRAM，無需卸載即可載入更大的模型權重。然而，它的記憶體頻寬低於高記憶體的純運算資料中心 GPU，後者更適合受限於記憶體頻寬的大規模訓練任務。
我該如何連線並設定我在 ONIE 上的 L40S 執行個體？
執行個體啟動後，您即可獲得環境的完整 SSH 存取權限。您也可以選擇包含 PyTorch/CUDA、ComfyUI、vLLM 和 Ollama 在內的現成範本，立即開始工作。
L40S 的計費方式為何？
ONIE 對所有 L40S 租用皆採用按小時計費。您只需為執行個體配置的時間付費。
按小時租用 L40S
建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。
租用 L40S