NVIDIA A100 SXM4 GPU を時間単位でレンタル
NVIDIA A100 SXM4 は、40 GB の VRAM と 400 W の電力枠を備えた Ampere アーキテクチャのデータセンター向け GPU です。Compute Capability 8.0 において、約 1313 GB/s のメモリ帯域幅と約 15.6 TFLOPS の単精度演算性能を発揮します。ONIE では、時間単位の請求、直接の SSH アクセス、そして PyTorch/CUDA、vLLM、Ollama、ComfyUI などのすぐに使えるテンプレートを利用してレンタルできます。
仕様
GPU あたりの VRAM
アーキテクチャ
Compute Capability
FP32 演算性能
メモリ帯域幅
電力制限
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
リアルタイム料金を読み込み中…
A100 SXM4 の主な用途
LLM の推論とサービング
事前設定された vLLM や Ollama テンプレートを使用し、高いメモリスループットで 40 GB の VRAM に収まる言語モデルを実行します。
ディープラーニングの学習
約 1313 GB/s のメモリ帯域幅を持つ Ampere データセンターアーキテクチャ上で、PyTorch/CUDA を用いてニューラルネットワークの学習とファインチューニングを行います。
バッチ画像生成
コンシューマー向け GPU のメモリ上限に達することなく、高解像度の拡散モデル出力を生成し、ComfyUI で複雑なワークフローを実行します。
科学技術計算
Compute Capability 8.0 と SXM4 フォームファクタの電力枠を活かした、メモリ集約型のシミュレーションやデータ処理ワークロードを実行します。
用途に最適な GPU かどうか
学習や推論のワークロードがコンシューマー向け GPU のメモリ上限を超え、データセンター級のメモリ帯域幅を必要とする場合は、40 GB の A100 SXM4 をお選びください。非量子化モデルが 40 GB を超える場合はより大容量の VRAM を搭載したデータセンター向け GPU を、軽量な推論や開発にはより小型のワークステーション向けまたはコンシューマー向けカードをご検討ください。
類似の GPU と比較
よくある質問
40 GB の A100 SXM4 は LLM の推論やファインチューニングに適していますか？
はい、40 GB の VRAM と約 1313 GB/s のメモリ帯域幅を備えているため、中規模な言語モデルのサービングやパラメータ効率の良いファインチューニングに適しています。提供されている vLLM、Ollama、または PyTorch/CUDA テンプレートを使用して、モデルを迅速にデプロイできます。
この 40 GB SXM4 モデルは他のデータセンター向け GPU と比べてどうですか？
SXM4 モデルは 400 W の熱設計電力（TDP）で動作し、Compute Capability 8.0 の Ampere アーキテクチャで持続的なデータセンター性能を提供します。モデルのシャーディングを避けるために 40 GB を超えるメモリが必要なワークロードの場合は、より大容量の Ampere または新世代のデータセンター向け GPU へのアップグレードをご検討ください。
ONIE での A100 SXM4 の請求はどのようになっていますか？
インスタンスは、レンタルが有効な間、時間単位で請求されます。これにより、負荷の高い学習やバッチ推論ジョブを実行し、完了したらインスタンスを削除することができます。
A100 SXM4 インスタンスへの接続とセットアップはどのように行いますか？
マシンへの直接の SSH アクセスと、PyTorch/CUDA、vLLM、Ollama、ComfyUI のすぐに使えるテンプレートが提供されます。起動時に希望のテンプレートを選択するだけで、すぐに作業を開始できます。
A100 SXM4 を時間単位でレンタル
アカウントを作成し、構成を選択して SSH で接続できます。GPU を削除すると課金が停止します。
A100 SXM4 をレンタル