NVIDIA H100 SXM GPU を時間単位でレンタル
NVIDIA H100 SXM は、80 GB の VRAM と 700 W の電力枠を備えた Hopper アーキテクチャのデータセンター向け GPU です。約 53.5 TFLOPS の標準浮動小数点演算性能と約 2869 GB/s のメモリ帯域幅を実現し、CUDA Compute Capability 9.0 をサポートしています。ONIE では時間単位の請求、完全な SSH アクセス、そして PyTorch/CUDA、vLLM、Ollama、ComfyUI 用の構築済みテンプレートを利用してレンタルできます。
仕様
GPU あたりの VRAM
アーキテクチャ
Compute Capability
FP32 演算性能
メモリ帯域幅
電力制限
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
リアルタイム料金を読み込み中…
H100 SXM の主な用途
大規模言語モデルの推論
vLLM や Ollama のテンプレートを介して、80 GB の VRAM 容量と約 2869 GB/s のメモリ帯域幅を活用し、要求の厳しい言語モデルを本番環境にデプロイできます。
ディープラーニングのファインチューニング
事前構成済みの PyTorch/CUDA 環境で Hopper アーキテクチャと CUDA Compute Capability 9.0 を使用し、ニューラルネットワークのトレーニングとファインチューニングを行えます。
高スループットのバッチ処理
700 W のデータセンター向けフォームファクタで約 53.5 TFLOPS の演算性能を活かせる、負荷の高いデータ処理やシミュレーションのワークロードを実行できます。
高負荷な生成メディアワークフロー
80 GB のメモリプールに余裕を持って収まる大きなバッチサイズで、複雑な ComfyUI パイプラインや拡散モデルを実行できます。
用途に最適な GPU かどうか
トレーニングや推論のワークロードに 80 GB の高帯域幅データセンターメモリと Hopper アーキテクチャの機能が必要な場合は、H100 SXM をお選びください。軽量な開発や小規模なモデルには、より小型のワークステーション向けまたはコンシューマー向け GPU の方が実用的です。一方、単一のインスタンスで 80 GB の VRAM にモデル全体が収まらない場合は、より新しい、またはより大容量のデータセンター向け GPU が適しています。
類似の GPU と比較
よくある質問
H100 SXM は LLM のファインチューニングや推論に適していますか?
はい、80 GB の VRAM と約 2869 GB/s のメモリ帯域幅を備えているため、大規模言語モデルの配信とファインチューニングの両方に適しています。ONIE では、vLLM、Ollama、または PyTorch/CUDA の構築済みテンプレートを使用してすぐに開始できます。
SXM モデルは、より低電力のデータセンター向けやワークステーション向けの GPU と比べてどうですか?
H100 SXM は 700 W の熱設計電力(TDP)で動作するため、PCIe データセンターモデルやワークステーションカードよりも高い演算性能とメモリ帯域幅を維持できます。ワークロードが約 53.5 TFLOPS の演算性能や 80 GB のメモリを使い切らない場合は、より小型の GPU で十分な場合があります。
CUDA Compute Capability 9.0 はどのようなソフトウェア互換性を提供しますか?
Compute Capability 9.0 は、NVIDIA Hopper アーキテクチャの命令と機能に対するハードウェアサポートを示します。当社の事前構成済み PyTorch/CUDA テンプレートは、手動でのドライバ設定なしにこのハードウェアをすぐに利用できるようになっています。
ONIE での請求とインスタンスへのアクセスはどのような仕組みですか?
インスタンスの料金は、レンタル期間に応じた時間単位で請求されます。デプロイ後は、SSH アクセスで環境に直接接続するか、ComfyUI などのプリインストールされたツールを操作できます。
H100 SXM を時間単位でレンタル
アカウントを作成し、構成を選択して SSH で接続できます。GPU を削除すると課金が停止します。
H100 SXM をレンタル