文脈の混合
Mixture of Contexts(MoC)は、ByteDance Seedチームがスタンフォード大学などの機関と共同で2025年8月に提案しました。関連する研究結果は論文「長時間動画生成のためのコンテキストの混合”。
Mixture of Contexts (MoC) は、ロングコンテキスト動画生成を内部情報検索タスクとして再構成した、シンプルで学習可能なスパースアテンションルーティングモジュールです。MoCでは、各クエリが、アテンションのための情報セグメントと必須アンカーを動的に選択し、因果ルーティングによってループの閉塞を防止します。
Build AI with AI
From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.