NVIDIA A40 GPU を時間単位でレンタル
NVIDIA A40は、コンピュートケイパビリティ8.6と45 GBのVRAMを備えた、Ampereアーキテクチャベースのデータセンター向けGPUです。ONIEでは、300 Wの電力枠内で約29.9 TFLOPSの単精度性能と約536 GB/sのメモリ帯域幅を提供します。時間単位の課金、フルSSHアクセス、そしてPyTorch/CUDA、vLLM、Ollama、ComfyUIなどの構築済みテンプレートを利用してデプロイできます。
仕様
GPU あたりの VRAM
アーキテクチャ
Compute Capability
FP32 演算性能
メモリ帯域幅
電力制限
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
リアルタイム料金を読み込み中…
A40 の主な用途
大規模言語モデルの推論
事前設定されたvLLMやOllamaテンプレートを使用して、最大45 GBのメモリを必要とするモデルを実行できます。
ディープラーニングのファインチューニング
大容量のVRAMを活用し、より大きなバッチサイズと重みでPyTorch/CUDA上のニューラルネットワークをファインチューニングできます。
画像生成ワークフロー
ComfyUIを使用して、複数のチェックポイントを同時にメモリに保持しながら複雑な拡散パイプラインを実行できます。
データセンター計算タスク
約29.9 TFLOPSの単精度計算性能と約536 GB/sのメモリ帯域幅を、シミュレーションやレンダリングのワークロードに活用できます。
用途に最適な GPU かどうか
標準的なコンシューマー向けカードのメモリ容量を超える、データセンター向けAmpereアーキテクチャ上の45 GB VRAMがワークロードに必要な場合はA40をお選びください。モデルがより少ないメモリに収まる場合は小型のコンシューマー向けカードを、トレーニングジョブでメモリスループットが大きなボトルネックになる場合はより高帯域幅のデータセンター向けGPUをご検討ください。
類似の GPU と比較
よくある質問
NVIDIA A40はLLMの推論やファインチューニングに適していますか？
はい、45 GBのVRAM容量を持つA40は、中〜大規模言語モデルのホスティングやパラメータ効率の高いファインチューニングに適しています。ONIE上でvLLM、Ollama、またはPyTorch/CUDAテンプレートを直接起動して、すぐに作業を開始できます。
A40は、小型のコンシューマー向けGPUや大型のデータセンター向けGPUと比べてどうですか？
A40は45 GBのVRAMを備えており、メモリ負荷の高いワークロードにおいて標準的なコンシューマー向けGPUよりも多くのメモリ余裕を提供します。ただし、約536 GB/sのメモリ帯域幅は、HBMメモリを使用する上位のデータセンター向けGPUよりも低くなっています。
ONIEのA40ではどのようなソフトウェア環境が利用できますか？
A40はCUDAコンピュートケイパビリティ8.6をサポートしており、PyTorch/CUDA、vLLM、Ollama、ComfyUIの構築済みテンプレートを使ってデプロイできます。フルSSHアクセスが含まれているため、必要に応じてソフトウェアスタックをカスタマイズ可能です。
A40インスタンスの請求はどのような仕組みですか？
ONIEでは、すべてのA40のレンタルに時間単位の請求を採用しています。インスタンスが稼働している時間に対してのみお支払いいただくため、短時間の実験から長時間の本番稼働まで実用的にお使いいただけます。
A40 を時間単位でレンタル
アカウントを作成し、構成を選択して SSH で接続できます。GPU を削除すると課金が停止します。
A40 をレンタル