D’après les informations rapportées, OpenAI dissout son équipe Preparedness et répartit ses fonctions de sécurité au sein des départements existants
Selon le Financial Times, OpenAI aurait dissous son équipe Preparedness à la fin du mois de juillet et transféré ses anciennes responsabilités vers les équipes existantes de l’entreprise, en fonction de domaines spécifiques tels que les risques biologiques ou la cybersécurité. Cette équipe était auparavant chargée d’évaluer si les modèles avancés pouvaient présenter des dangers graves et d’étudier les mesures d’atténuation correspondantes. Ce réajustement s’inscrit dans une série de重organisations successives au sein de l’organisation dédiée à la sécurité chez OpenAI ces dernières années. L’entreprise avait précédemment supprimé les équipes Superalignment et AGI Readiness. Récemment, Chloé Bakalar, responsable de l’éthique de l’IA, Josh Achiam, futuriste en chef, ainsi que Johannes Heidecke, responsable des systèmes de sécurité, ont également démissionné. Jan Leike, ancien responsable de Superalignment parti d’OpenAI en 2024, a critiqué cette orientation, affirmant que l’entreprise négligeait les travaux sur la sécurité pour se concentrer sur « de nouveaux produits impressionnants ». Toutefois, il s’agit là de l’opinion d’un employé parti et ne permet pas de conclure qu’OpenAI abandonne ses investissements en matière de sécurité. Le directeur de l’équipe Preparedness, Dylan Scandinaro, a rejoint OpenAI depuis Anthropic en février dernier. Suite à la dissolution de l’équipe, il se tournera désormais vers l’étude des impacts potentiels de l’amélioration récursive par soi-même (« recursive self-improvement ») de l’IA, c’est-à-dire des capacités et des risques découlant de la participation des systèmes d’IA au développement et à l’amélioration des futurs systèmes d’IA. Ces changements organisationnels coïncident avec la préparation d’une éventale introduction en bourse (IPO) par OpenAI, mais aucune preuve n’indique actuellement un lien causal direct entre les deux événements.
