OpenAI, Anthropic et Google: discussions sur la sécurité IA

Mardi dernier, Chris Lehane, directeur mondial des affaires d’OpenAI, a déclaré que l’entreprise discutait depuis plusieurs semaines avec ses concurrents Anthropic et Google DeepMind de questions liées à la sécurité de l’intelligence artificielle. Il est actuellement en communication avec des sénateurs américains à Washington pour aborder principalement les risques catastrophiques potentiels liés aux IA avancées ainsi que les mesures de gouvernance correspondantes. Cette coopération a été encouragée par un article récent publié par Dario Amodei, PDG d’Anthropic. Ce dernier appelle le secteur à ralentir l’expansion des capacités des IA avancées afin de gagner du temps pour la mise en place de mécanismes de sécurité. Le PDG d’OpenAI Sam Altman, Demis Hassabis, responsable de Google DeepMind, et Elon Musk, PDG de SpaceX AI, ont ensuite apporté leur soutien à cette initiative. M. Altman a également indiqué qu’OpenAI était disposée à faire appel à des évaluateurs tiers dans le cadre de la supervision de la sécurité. Selon les informations rapportées, les trois entreprises examinent également la création d’un organisme établissant des normes sectorielles pour l’IA. Compte tenu des préoccupations antitrust potentielles liées à une coordination entre entreprises, M. Amodei avait suggéré au gouvernement d’accorder des exemptions limitées ; toutefois, M. Lehane estime qu’une collaboration axée sur la sécurité ne nécessite pas ce type de dispositions. Parallèlement, OpenAI soutient les dispositions relatives au FRONTIER Act proposées par des législateurs issus des deux partis politiques. Ce projet de loi obligerait les principaux développeurs d’IA avancées à engager des organismes indépendants agréés afin d’évaluer continuellement la gestion des risques, la gouvernance de la sécurité et les mesures d’atténuation des risques catastrophiques mises en œuvre par ces entreprises.