Mixture of Contexts (MoC) a été proposé par l'équipe ByteDance Seed en collaboration avec l'Université de Stanford et d'autres institutions en août 2025. Les résultats de recherche pertinents ont été publiés dans l'article «Mélange de contextes pour la génération de vidéos longues".

Mixture of Contexts (MoC) est un module de routage d'attention clairsemé, simple et facile à apprendre, basé sur le recadrage de la génération de vidéos à contexte long comme tâche de recherche d'informations interne. Dans MoC, chaque requête sélectionne dynamiquement quelques segments informatifs et ancres obligatoires pour attirer l'attention, empêchant ainsi la fermeture de boucle par le routage causal.