Des chercheurs de l'Université de Loughborough viennent de proposer une solution radicale au problème des intelligences artificielles dites à « boîte noire ». Publiée dans la revue Physica D: Nonlinear Phenomena, cette étude présente un nouveau schéma mathématique capable de transformer l'IA en systèmes transparents, capables d'expliquer leur apprentissage et leurs décisions. L'équipe de recherche a mis au point un prototype doté d'une mémoire et d'un « cerveau » qui apprend de manière continue sans oublier ses connaissances antérieures. Contrairement aux modèles actuels, ce système évite la formation de fausses mémoires et peut reproduire des aspects de la pensée humaine, comme le renforcement ou l'oubli sélectif de l'information, le tout de manière claire et contrôlable. Dr. Natalia Janson, auteure principale de l'étude, déclare que l'intelligence a longtemps été traitée comme une entité émergente interne opaque. Elle explique que leur objectif était de repenser l'IA dès sa base pour créer un système dont les mécanismes cognitifs sont entièrement visibles. Les premiers tests du prototype ont montré des résultats prometteurs. Dans des expériences simples, le système a appris des notes de musique et des phrases courtes sans supervision, tout en identifiant et en stockant des couleurs à partir d'images, le tout d'une manière prévisible et traçable. Il a évité les problèmes fréquents de l'IA traditionnelle, notamment l'oubli catastrophique et la génération de faux souvenirs. Le cœur de cette approche repose sur un concept mathématique appelé « champ vectoriel plastique », qui modélise la manière dont l'information évolue au fil du temps, reflétant ainsi le fonctionnement du cerveau. Cela permet de tracer chaque étape de l'apprentissage et de la cognition de l'IA, intégrant la transparence dès la conception plutôt que de l'ajouter ultérieurement. Dr. Janson souligne que pour construire des systèmes intelligents qui se comportent de manière transparente, il faut répondre à des questions fondamentales sur la nature de l'intelligence humaine, l'activité cérébrale et le lien entre mémoire et structure physique. Parallèlement, l'équipe a examiné les réseaux de neurones artificiels existants et a constaté que leurs limites résident souvent dans leur conception même. Le professeur Alexander Balanov, co-auteur de l'étude, note que l'architecture actuelle rend impossible le contrôle total de l'apprentissage et du stockage de l'information, expliquant ainsi pourquoi ces modèles sont difficiles à interpréter. Bien que le prototype soit encore simple et doive être mis à l'échelle pour une utilisation réelle, l'équipe de Loughborough prévoit de développer davantage cette technologie, y compris en l'intégrant dans de nouveaux types de matériel. L'objectif est de créer des intelligences artificielles puissantes et compréhensibles. Selon le professeur Balanov, cette recherche rapproche de technologies que les gens pourront utiliser en toute confiance au quotidien, allant d'outils de santé plus sûrs à une prise de décision automatisée plus responsable. Cette avancée pourrait marquer un tournant vers une ère où la confiance dans l'IA sera fondée sur la compréhension et la traçabilité de ses processus internes.