NVIDIA RTX 2080 Ti GPU を時間単位でレンタル

はい、11 GB の VRAM と約 501 GB/s のメモリ帯域幅により、コンパクトな言語モデルや量子化された言語モデル、および標準的な拡散モデルを実行できます。11 GB を超える大規模なモデルや、Compute Capability 7.5 を超える新しいアーキテクチャの機能を必要とする場合は、より大容量のメモリを備えた GPU のレンタルをご検討ください。

インスタンスへの完全な SSH アクセスが提供され、PyTorch/CUDA、vLLM、Ollama、ComfyUI などの構築済みテンプレートを起動できます。このカードは Compute Capability 7.5 に対応した CUDA ワークロードをサポートしています。

11 GB の VRAM と約 14.6 TFLOPS の単精度演算性能を備えた Turing 世代のコンシューマー向けカードとして、エントリーレベルのコンシューマー向け GPU よりも多くのメモリを提供します。ただし、負荷の高いトレーニングジョブには、より新しい世代のワークステーション向けまたはデータセンター向け GPU の方が、より多くの VRAM と高いメモリ帯域幅を提供します。

ONIE のインスタンスは時間単位の課金を採用しているため、GPU サーバーが稼働している時間に対してのみお支払いいただきます。