NVIDIA H100 NVL GPU を時間単位でレンタル
NVIDIA H100 NVLは、94 GBのVRAMとコンピュートケイパビリティ9.0を備えたHopperアーキテクチャのデータセンター向けGPUです。400 Wの熱設計枠内で、約48.3 TFLOPSの単精度演算性能と約3381 GB/sのメモリ帯域幅を実現します。ONIEでは、時間単位の請求、SSHアクセス、およびPyTorch/CUDA、vLLM、Ollama、ComfyUIの構築済みテンプレートを利用してH100 NVLをレンタルできます。
仕様
GPU あたりの VRAM
アーキテクチャ
Compute Capability
FP32 演算性能
メモリ帯域幅
電力制限
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
リアルタイム料金を読み込み中…
H100 NVL の主な用途
大規模言語モデルの推論
94 GBのVRAMと約3381 GB/sのメモリ帯域幅を活用し、vLLMやOllamaで大容量の言語モデルをデプロイして高速なトークン生成を行えます。
ディープラーニングのファインチューニング
Hopperアーキテクチャの機能とコンピュートケイパビリティ9.0を活用し、PyTorchでニューラルネットワークのトレーニングやファインチューニングを行えます。
高解像度の画像生成
システムRAMにオフロードすることなく、複雑なComfyUIのワークフローや大規模な拡散パイプラインをメモリ上で実行できます。
科学技術計算とシミュレーション
約48.3 TFLOPSの単精度演算性能を活かし、メモリ集約型のデータセンターワークロードを実行できます。
用途に最適な GPU かどうか
AIや計算ワークロードで標準的なデータセンターカード以上のメモリ（最大94 GBのVRAM）が必要な場合は、H100 NVLをお選びください。軽量な推論や開発にはより小型のワークステーション向けまたはコンシューマー向けGPUが適しており、モデルが94 GBを超える場合はマルチGPU構成またはさらに大容量のメモリ層が必要になります。
類似の GPU と比較
よくある質問
H100 NVLはLLMの推論やファインチューニングに適していますか？
はい、94 GBのVRAMと約3381 GB/sのメモリ帯域幅を備えているため、小規模なデータセンター向けGPUには収まらない大規模言語モデルの配信やファインチューニングに非常に適しています。
H100 NVLは標準のH100モデルとどのように違いますか？
H100 NVLは、拡張された94 GBのVRAM容量と400 Wの電力枠を備えており、標準的なHopperデータセンター構成と比較してメモリにさらなる余裕を提供します。
ONIEではこのGPU向けにどのようなソフトウェアテンプレートが利用できますか？
すべてコンピュートケイパビリティ9.0に対応した、PyTorch/CUDA、vLLM、Ollama、およびComfyUIの設定済みテンプレートを使用してH100 NVLをデプロイできます。
H100 NVLをレンタルする際の請求とアクセスはどのようになりますか？
ONIEのインスタンスは時間単位の請求を採用しており、直接SSHアクセスが提供されるため、環境やワークフローをすぐに管理できます。
H100 NVL を時間単位でレンタル
アカウントを作成し、構成を選択して SSH で接続できます。GPU を削除すると課金が停止します。
H100 NVL をレンタル