OpenAI a dissous une équipe dédiée à l’alignement des missions, dont l’objectif était de garantir que ses systèmes d’intelligence artificielle soient « sûrs, fiables et pleinement alignés avec les valeurs humaines », selon la description même de l’entreprise. Parallèlement, son ancien chef a été nommé « futuriste en chef » de la société. OpenAI a confirmé à TechCrunch que les membres de cette équipe ont été réaffectés à d’autres postes au sein de l’organisation. Cette information avait été initialement révélée par Platformer. Cette unité, créée en septembre 2024, était spécialisée dans la recherche sur l’alignement des IA — un domaine crucial de l’industrie visant à s’assurer que les systèmes d’intelligence artificielle agissent conformément aux intérêts humains, même dans des situations complexes ou adverses. Dans un billet publié sur le blog d’OpenAI dédié à la recherche sur l’alignement, l’entreprise soulignait son engagement à développer des systèmes capables de suivre fidèlement l’intention humaine, d’éviter tout comportement catastrophique, et de rester contrôlables, auditables et conformes aux valeurs humaines. Un poste d’emploi publié par OpenAI décrivait cette équipe comme étant chargée de développer des méthodologies permettant à l’IA de respecter l’intention humaine dans des scénarios variés, notamment dans des contextes à haut risque ou face à des attaques stratégiques. Dans un billet publié mercredi, Josh Achiam, ancien responsable de l’équipe d’alignement, a expliqué sa nouvelle fonction de « futuriste en chef ». « Mon objectif est d’appuyer la mission d’OpenAI — assurer que l’intelligence générale artificielle profite à l’ensemble de l’humanité — en étudiant les transformations du monde provoquées par l’IA, l’AGI et au-delà », a-t-il écrit. Il précise qu’il travaillera désormais en collaboration avec Jason Pruet, physicien au sein du personnel technique d’OpenAI. Un porte-parole de l’entreprise a indiqué que les autres membres de l’équipe — estimés à six ou sept personnes — avaient été réaffectés à d’autres départements, où ils poursuivent des travaux similaires, bien que les détails précis de ces nouveaux rôles restent confidentiels. Il n’est pas non plus clair si Achiam aura désormais une équipe à sa charge dans son nouveau rôle. Le porte-parole a attribué la dissolution de l’équipe à des réorganisations courantes dans une entreprise en pleine croissance. OpenAI avait déjà dissous, en 2024, une autre unité dédiée aux risques existentiels liés à l’IA, appelée « superalignment team », créée en 2023. Malgré cette réorganisation, le site personnel de Josh Achiam continue de le présenter comme directeur de l’alignement des missions chez OpenAI, soulignant son intérêt pour assurer un avenir humain meilleur à long terme. Son profil LinkedIn indique également qu’il a occupé ce poste depuis septembre 2024.