Nous proposons de construire une intelligence omnimodale, capable de comprendre toute modalité et d’apprendre des représentations universelles. Plus précisément, nous introduisons un paradigme d’entraînement préalable évolutif, nommé Multimodal Context (MiCo), qui permet d’augmenter de manière scalable le nombre de modalités, la quantité de données et la taille des paramètres du modèle pendant l’étape d’entraînement préalable. Grâce à MiCo, les modèles préentraînés exhibent des capacités émergentes significatives en apprentissage multimodal, évaluées sur les tâches suivantes : i) des benchmarks de perception monomodale couvrant 10 modalités différentes, ii) 25 tâches de compréhension cross-modale (recherche, réponse à des questions, génération de légendes), et iii) 18 benchmarks pour modèles de langage massifs multimodaux. Nos modèles établissent 37 nouveaux records en termes de performance de pointe. Nous espérons que cette recherche contribuera au développement de l’intelligence omnimodale. Le code et les modèles sont disponibles à l’adresse suivante : https://github.com/invictus717/MiCo