NVIDIA RTX PRO 6000 WS GPU を時間単位でレンタル

はい。96 GB の VRAM と約 1403 GB/s のメモリ帯域幅を備えているため、このワークステーション向け GPU は大規模なモデルの重みやコンテキストウィンドウをメモリ内に保持できます。提供されている vLLM や Ollama のテンプレートを使用して、推論サーバーを迅速にデプロイできます。

Blackwell 世代のワークステーション向け GPU である RTX PRO 6000 WS は、標準的なコンシューマー向けカードを上回る 96 GB の VRAM 容量を備えており、より大規模なワークロードを単一のカードに収めることができます。より高いメモリ帯域幅が必要な場合はデータセンター向け GPU が適しており、軽いタスクであれば下位のワークステーション向けやコンシューマー向け GPU で十分です。

インスタンスは Compute Capability 12.0 に対応しており、PyTorch/CUDA、vLLM、Ollama、ComfyUI など、すぐに使えるテンプレートが用意されています。完全な SSH アクセスが含まれているため、必要に応じてソフトウェアスタックをカスタマイズできます。

ONIE のレンタルは時間単位の請求を採用しているため、インスタンスが稼働している時間に対してのみ料金が発生します。SSH 経由で接続してタスクを実行し、完了したらインスタンスを削除できます。