Geoffrey Hinton dénonce le manque de transparence sur les risques de l'IA, sauf chez un seul leader

Geoffrey Hinton, surnommé le « parrain de l’IA », a affirmé lors d’un récent épisode du podcast « One Decision », diffusé le 24 juillet, que la plupart des dirigeants de grandes entreprises technologiques minimisent les risques associés à l’intelligence artificielle. Il a souligné que ces acteurs savent probablement ce que l’IA peut entraîner, mais ne prennent pas suffisamment de mesures pour y faire face. Selon lui, seuls quelques rares leaders, comme Demis Hassabis, chef de Google DeepMind, semblent vraiment conscient des dangers et souhaitent agir. Hassabis, qui a cofondé DeepMind en 2010 et l’a vendu à Google en 2014 pour 650 millions de dollars, a toujours insisté sur la nécessité d’une gouvernance éthique de l’IA. À l’époque, il avait exigé la création d’un comité d’éthique au sein de Google. Le fondateur, prix Nobel, espérait initialement que les chercheurs et les universitaires mènent le développement de l’IA, mais aujourd’hui, il est au cœur de la stratégie de Google pour dominer ce domaine. Certains insiders de la firme pensent qu’il pourrait devenir le prochain PDG. En février, Hassabis a déclaré que l’IA représente des risques à long terme et a averti que les systèmes agents pourraient devenir « incontrôlables ». Il défend également l'idée d'une autorité internationale chargée de réguler la technologie. Récemment, des manifestants se sont rassemblés devant le siège de DeepMind à Londres pour exiger plus de transparence dans les pratiques d’IA. Hinton, qui a travaillé plus de dix ans chez Google avant de démissionner pour parler plus librement des risques de l’IA, a déclaré que l’entreprise lui avait demandé de rester pour se consacrer aux questions de sécurité. Il a aussi critiqué d’autres dirigeants de la tech, comme Elon Musk et Mark Zuckerberg, en les qualifiant d’« oligarques », ce qui suggère un manque de confiance en leur capacité à gérer l’IA de manière responsable. Les représentants de ces deux personnalités n’ont pas réagi aux demandes de commentaires. Les propos de Hinton soulignent une tension croissante entre les promesses de l’IA et ses risques potentiels, tout en mettant en lumière l’importance d’une régulation et d’une éthique rigoureuse.