NVIDIA L40S GPU を時間単位でレンタル
NVIDIA L40S は、ONIE でクラウドレンタル可能な Ada Lovelace アーキテクチャのデータセンター向け GPU です。350 W の消費電力枠内で、45 GB の VRAM、約 73.3 TFLOPS の単精度演算性能、約 626 GB/s のメモリ帯域幅を提供します。CUDA Compute Capability 8.9 に対応しており、負荷の高い AI の学習、推論、グラフィックスのワークロードを時間単位の課金で利用できます。
仕様
GPU あたりの VRAM
アーキテクチャ
Compute Capability
FP32 演算性能
メモリ帯域幅
電力制限
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
リアルタイム料金を読み込み中…
L40S の主な用途
大規模言語モデルの推論
45 GB のメモリ容量を活かし、vLLM や Ollama などの構築済みテンプレートを使用して、量子化モデルや全精度の言語モデルをデプロイできます。
画像生成ワークフロー
Ada Lovelace アーキテクチャを活用し、ComfyUI で複雑な拡散パイプラインやバッチ生成タスクを実行できます。
ディープラーニングのファインチューニング
約 73.3 TFLOPS の演算性能を使用し、PyTorch/CUDA 環境でニューラルネットワークや LoRA アダプターをファインチューニングできます。
データセンターグラフィックスとレンダリング
約 626 GB/s のメモリ帯域幅を備えたデータセンター向け GPU の恩恵を受ける、ヘッドレスレンダリングやシミュレーションタスクを実行できます。
用途に最適な GPU かどうか
標準的なコンシューマー向けカードを超え、45 GB の VRAM とデータセンタークラスの信頼性がワークロードに求められる場合は、L40S をお選びください。モデルがより少ないメモリに収まる場合は、小規模なワークステーション向けまたはコンシューマー向け GPU の方が経済的です。一方、量子化されていない巨大な基盤モデルには、より大容量のメモリを備えたデータセンター向け GPU が適しています。
類似の GPU と比較
よくある質問
NVIDIA L40S は LLM の推論やファインチューニングに適していますか？
はい、45 GB の VRAM と CUDA Compute Capability 8.9 を備えた L40S は、中〜大規模な言語モデルの配信や、パラメータ効率の良いファインチューニングの実行に適しています。事前設定された vLLM、Ollama、または PyTorch/CUDA のテンプレートを使用してインスタンスを起動できます。
L40S はコンシューマー向け GPU やより大型のデータセンター向け GPU と比べてどうですか？
L40S は標準的なコンシューマー向け Ada Lovelace カードよりも多くの VRAM を備えており、オフロードなしでより大きなモデルの重みを保持できます。ただし、大容量メモリを搭載した演算専用のデータセンター向け GPU と比較するとメモリ帯域幅は低いため、メモリ帯域がボトルネックとなる大規模な学習ジョブには後者が適しています。
ONIE で L40S インスタンスに接続し、設定するにはどうすればよいですか？
インスタンスの起動後すぐに、環境へのフル SSH アクセスが可能になります。また、PyTorch/CUDA、ComfyUI、vLLM、Ollama などの構築済みテンプレートを選択して、すぐに作業を開始することもできます。
L40S の請求はどのようになりますか？
ONIE では、すべての L40S レンタルに時間単位の課金を採用しています。インスタンスが割り当てられている時間分のみお支払いいただきます。
L40S を時間単位でレンタル
アカウントを作成し、構成を選択して SSH で接続できます。GPU を削除すると課金が停止します。
L40S をレンタル