HyperAIHyperAI

Command Palette

Search for a command to run...

Childlike AI dévoile la structuration du langage

Une étude menée par l'Université du Witwatersrand en Afrique du Sud révèle pourquoi le langage humain devient plus structuré au fil des générations, une découverte qui éclaire également le fonctionnement des modèles d'intelligence artificielle à grande échelle. Les chercheurs ont démontré que la culture et le processus d'apprentissage itératif, où le langage évolue de génération en génération, sont des facteurs déterminants. Cette dynamique permet d'éliminer les irrégularités complexes au profit de structures plus faciles à acquérir et à transmettre. L'équipe, dirigée par le Dr Devon Jarvis, a conçu un modèle informatique simulant les capacités cognitives d'un enfant. En lui fournissant des données linguistiques similaires à celles utilisées par les humains, ils ont observé comment les versions successives de ce « cerveau » apprenaient et transmettaient l'information. Les résultats montrent que les systèmes artificiels retrouvent la structure des données de la même manière que les enfants, privilégiant certaines propriétés linguistiques pour faciliter l'apprentissage. Le langage devient ainsi plus structuré au fil des générations car cette organisation rend l'acquisition des connaissances plus efficace. Le mécanisme de l'apprentissage itératif repose sur la transmission intergénérationnelle. Comme chez les enfants qui apprennent le monde par hiérarchie, la transmission d'une génération à l'autre introduit inévitablement des erreurs. Par exemple, un enfant peut généraliser à tort que tous les oiseaux volent avant d'apprendre que les manchots ne le font pas, mais qu'ils nagent. Ces erreurs ne sont pas arbitraires ; elles résultent d'une sur-généralisation des connaissances. Lors de la transmission, les parties du langage les plus faciles à apprendre sont conservées et réutilisées, tandis que les portions non structurées tendent à être oubliées. Cette pression de communication favorise l'émergence d'une intelligence plus profonde et de règles linguistiques plus précises. Pour tester cette hypothèse, les scientifiques ont utilisé des réseaux de neurones linéaires profonds, des modèles mathématiques imitant le traitement de l'information dans le cerveau. L'étude a révélé que l'apprentissage itératif n'est efficace que si le réseau possède une profondeur suffisante, c'est-à-dire plusieurs couches de traitement, et s'il est confronté à un langage suffisamment complexe. Les réseaux superficiels, avec moins de couches, ont échoué à capturer les régularités structurées qui rendent le langage apprenable. Ces findings suggèrent que l'architecture du système d'apprentissage, qu'il soit biologique ou artificiel, et la richesse de son environnement, jouent un rôle crucial dans la façon dont la structure linguistique est absorbée et transmise. Cela a des implications importantes pour les modèles d'intelligence générative modernes, qui reposent sur l'échelle pour développer leurs capacités émergentes. Bien que les réseaux linéaires profonds et le concept d'apprentissage itératif soient connus dans la littérature, leur combinaison offre une nouvelle perspective : le langage évolue pour devenir plus facile à apprendre, précisément à cause de la nature spécifique de la façon dont les enfants apprennent par étapes et favorisent la réutilisation de l'information plutôt que l'acquisition de nouveautés. Cette découverte, publiée dans les Proceedings of the National Academy of Sciences, souligne l'importance de l'intersection entre différents domaines scientifiques pour comprendre les principes fondamentaux de la cognition. Elle indique que des modèles technologiques simples, à la base de l'essor actuel des outils d'IA, peuvent révéler des mécanismes cognitifs complexes.

Liens associés

Childlike AI dévoile la structuration du langage | Articles tendance | HyperAI