Command Palette
Search for a command to run...
上下文混合 Mixture of Contexts
Mixture of Contexts(MoC)是由字节跳动 Seed 团队联合斯坦福大学等机构于 2025 年 8 月提出的,相关研究成果发表于论文「Mixture of Contexts for Long Video Generation」。
Mixture of Contexts(MoC)是在将长上下文视频生成重新定义为内部信息检索任务的基础上提出的,是一种简单、可学习的稀疏注意力路由模块。在 MoC 中,每个查询动态选择一些信息量大的片段加上强制锚点进行关注,通过因果路由防止闭环。