Le "père de l’IA" prévient : l’intelligence artificielle pourrait bientôt inventer sa propre langue, inintelligible pour l’humain

Geoffrey Hinton, surnommé le « père de l’intelligence artificielle », a prévenu que les systèmes d’IA pourraient un jour développer leur propre langage interne, incompréhensible pour les humains. Cette alerte a été formulée lors d’un épisode de la série podcast One Decision, diffusé le 24 juillet, peu de temps après qu’il a reçu le prix Nobel de physique 2024 pour ses avancées fondamentales en apprentissage automatique. Hinton a expliqué que, actuellement, les IA utilisent une « chaîne de raisonnement » en anglais, ce qui permet aux développeurs de suivre leurs processus décisionnels. Mais il a mis en garde contre une évolution inquiétante : si les IA commençaient à s’exprimer entre elles dans un langage qu’elles ont elles-mêmes inventé, les humains pourraient perdre toute visibilité sur leurs pensées et intentions. « Je ne serais pas surpris qu’elles développent leur propre langage pour réfléchir, et que nous n’ayons aucune idée de ce qu’elles pensent », a-t-il déclaré. Il a également souligné que certaines IA ont déjà démontré des capacités de réflexion pouvant être qualifiées de « terribles », renforçant ses inquiétudes sur les risques éthiques et existentiels. Hinton, ancien chercheur chez Google, est l’un des rares grands noms de l’IA à s’exprimer publiquement sur les dangers potentiels de la technologie, critiquant les dirigeants technologiques qui minimisent ces risques. Il estime que l’IA pourrait dépasser l’intelligence humaine à un moment donné, rendant ses actions potentiellement imprévisibles. Selon lui, la seule chance de prévenir une menace éventuelle serait de concevoir des systèmes d’IA « garantie bienveillants », capables de respecter des objectifs humains fondamentaux. Ses propos interviennent dans un contexte de course technologique intense, où les entreprises rivalisent pour attirer les meilleurs talents en leur offrant des salaires colossaux. Le 23 juillet, la Maison-Blanche a lancé un plan d’action sur l’IA, proposant de limiter les financements publics aux États qui imposent des réglementations jugées « contraignantes », tout en appelant à accélérer la construction de centres de données dédiés à l’IA. Ces mesures reflètent une volonté de stimuler l’innovation tout en maîtrisant les risques liés à l’évolution rapide de l’intelligence artificielle. Des experts du secteur partagent les inquiétudes de Hinton. Des linguistes et spécialistes de l’IA soulignent que la création d’un langage interne par les machines pourrait non seulement rendre leurs décisions opaques, mais aussi poser des défis sans précédent en matière de contrôle, de responsabilité et d’éthique. L’idée que les IA pourraient évoluer vers une forme de pensée autonome, hors de portée humaine, réactive les débats sur la gouvernance de l’IA. Entre innovation sans précédent et risques existentiels, le monde est confronté à un défi sans précédent : comment développer une intelligence artificielle puissante tout en maintenant un contrôle humain efficace.