NVIDIA RTX PRO 6000 S GPU を時間単位でレンタル

はい、96 GB の VRAM 容量と約 1396 GB/s のメモリ帯域幅を備えているため、一般的なコンシューマー向けカードのメモリ上限を超える大規模言語モデルのホスティングやファインチューニングに適しています。ONIE では、vLLM、Ollama、PyTorch の構築済みテンプレートを使用して迅速にデプロイできます。

96 GB の VRAM を搭載した Blackwell ワークステーション GPU として、コンシューマー向け GPU や前世代のワークステーションカードよりも大幅に多くのメモリを提供し、より大きなバッチサイズや非量子化ウェイトを扱うことができます。本格的なデータセンター向け GPU は大規模なスケールアウト学習向けにさらに高いメモリ帯域幅を備えており、一方でワークロードが 96 GB の容量すべてを使用しない場合は、より小型の GPU が適しています。

すべてのインスタンスに直接の SSH アクセスが含まれているため、必要に応じて環境を構成できます。また、ONIE では Compute Capability 12.0 のワークフローをサポートするため、CUDA 対応 PyTorch、vLLM、Ollama、ComfyUI のすぐに使えるテンプレートも提供しています。

ONIE でのレンタルは時間単位の請求となります。インスタンスが稼働している時間に対してのみお支払いいただくため、短時間のテストセッションから長時間のワークステーション計算処理まで実用的にご利用いただけます。