NVIDIA RTX 3060 GPU を時間単位でレンタル

はい、12 GB の VRAM は Ollama や vLLM を介した小規模または量子化言語モデルの実行や、ComfyUI での標準的な拡散モデルの利用に適しています。12 GB を超える非量子化の大規模モデルには、よりメモリ容量の大きい GPU が必要になります。

RTX 3060 はエントリークラスのコンシューマー向けカードでありながら 12 GB のゆとりあるメモリバッファを備え、約 12.0 TFLOPS の演算性能と約 318 GB/s のメモリ帯域幅を提供します。より上位のコンシューマー向けまたはワークステーション向け GPU にアップグレードすると、高負荷なトレーニング向けに、より高速なメモリ帯域幅と高い演算スループットが得られます。

ONIE のすべてのレンタルには、コマンドラインを完全に制御できる直接の SSH アクセスが含まれています。また、PyTorch/CUDA、vLLM、Ollama、ComfyUI 用の構築済みテンプレートを使用してすぐに起動することも可能です。

インスタンスはレンタルが有効な間、時間単位で請求されます。これにより、Compute Capability 8.6 対応の Ampere アーキテクチャカード上で実験を行い、完了したらインスタンスを終了することができます。