HyperAIHyperAI

Command Palette

Search for a command to run...

Horvitz prévient : l’IA va transformer l’humanité, mais la gouvernance et la confiance sont au cœur du défi

Eric Horvitz, docteur en sciences (Ph.D.) 1991 et médecin (M.D.) 1994, directeur scientifique chez Microsoft, a prévenu lors d’une conférence au Stanford Graduate School of Business (GSB) que l’ère actuelle de l’intelligence artificielle ne se limitait pas à une simple évolution technologique, mais marquait une transformation fondamentale de la « trajectoire de l’existence humaine ». Intervenant dans le cadre de l’initiative appliquée à l’IA du GSB, Horvitz a évoqué les enjeux sociétaux, sanitaires et éthiques liés à l’IA, en dialogue avec la doyenne Sarah Soule. Avec plus de 30 ans d’expérience chez Microsoft, il a souligné que les impacts réels de l’IA sur la société restent encore mal compris et ne seront pleinement éclaircis que dans plusieurs décennies. Il a comparé cette phase à celle de l’introduction de la vapeur ou de l’électricité, des révolutions technologiques dont la réorganisation profonde des structures sociales a pris des décennies. Horvitz a mis en garde contre un « désalignement d’impédance » entre le rythme de l’innovation technologique et la capacité des institutions à s’adapter. « À l’avenir, on dira : “C’est là que tout a commencé” », a-t-il affirmé, tout en prédisant que, même dans vingt ans, le monde resterait en pleine transformation accélérée. L’un des principaux défis abordés a été la dégradation de la vérité face à l’essor des deepfakes. Horvitz, qui a longtemps travaillé sur la vérification de l’origine des contenus, a mis au point des systèmes utilisant des « sceaux cryptographiques » pour attester de l’authenticité des médias. Toutefois, il a insisté sur le fait que les solutions techniques ne suffisent pas : « Il faut aussi les tester en les attaquant, pour éviter qu’elles ne deviennent elles-mêmes des outils de manipulation », a-t-il expliqué, citant une étude récente de Microsoft sur la possibilité de déstabiliser des contenus authentiques à l’aide de systèmes de vérification. Malgré ces défis, Horvitz affiche une grande confiance dans les applications de l’IA en biosciences. Il prévoit que, durant la vie de cette génération, des avancées majeures permettront de guérir ou de mieux gérer des maladies neurodégénératives comme Alzheimer ou la sclérose latérale amyotrophique (SLA). Face à une question sur le rôle de la mentorat dans un monde automatisé, Horvitz a rassuré les étudiants : « L’IA ne remplacera jamais le mentorat humain. » Il a souligné que, là où l’automatisation prendra le relais sur les tâches cognitives répétitives, la valeur du travail humain, de la relation humaine et de l’expertise artisanale augmentera. Lors de la séance de questions, Serena M. Lee, étudiante en master, a interrogé Horvitz sur les enjeux de gouvernance de l’IA. Il a répondu que la sécurité ne dépendra plus seulement des développeurs, mais deviendra une responsabilité collective, comparable à celle des entreprises d’électricité. Il a également insisté sur la nécessité de modèles d’IA médicaux universels, car un modèle entraîné dans un hôpital peut échouer dans un autre, notamment en raison de différences démographiques. « La sécurité ne peut pas être compromise aux bords, même si les performances moyennes sont bonnes », a-t-il ajouté. L’événement a offert une perspective équilibrée, loin des scénarios apocalyptiques souvent relayés dans les milieux technologiques. Simran Mohnani, étudiante en MBA, a salué les exemples concrets d’IA dans la recherche sur le cancer et les modèles biomédicaux, qui lui donnent de l’espoir. « C’est rafraîchissant de voir un discours centré sur les applications humaines, au lieu de la peur », a-t-elle commenté, soulignant la nécessité d’une narration plus équilibrée autour de l’IA.

Liens associés

Horvitz prévient : l’IA va transformer l’humanité, mais la gouvernance et la confiance sont au cœur du défi | Articles tendance | HyperAI