NVIDIA RTX 4060 Ti GPU を時間単位でレンタル

はい、16 GB の VRAM と Compute Capability 8.9 を備えているため、Ollama や vLLM を介した量子化言語モデルのホスティングや、ComfyUI での複雑な画像生成ワークフローの実行に適しています。メモリ帯域幅が約 236 GB/s であるため、トークン生成速度はより高帯域なカードに比べて控えめになりますが、メモリ容量が大きいためより大規模なチェックポイントを読み込むことができます。

このカードは一部の上位コンシューマー向けモデルと同じ 16 GB のメモリ容量を備えており、同程度のサイズのモデルをメモリ内に保持できます。ただし、消費電力 165 W で演算性能が約 21.6 TFLOPS、メモリ帯域幅が約 236 GB/s であるため、より広いメモリバスと多くの演算コアを備えた上位の Ada Lovelace GPU と比較すると、データ処理速度は緩やかになります。

ONIE のインスタンスはわかりやすい時間単位の請求を採用しています。GPU インスタンスがアカウントに割り当てられている時間に対してのみお支払いいただきます。

稼働中のインスタンスには SSH アクセスで直接接続できます。セットアップ時間を短縮できるよう、ONIE では PyTorch/CUDA、vLLM、Ollama、ComfyUI の構築済みテンプレートをご用意しています。