OpenAI perd son responsable sécurité qui alerte sur l'IA
David Robinson, responsable de la sécurité et des politiques chez OpenAI, a quitté l'entreprise cette semaine et a publié une critique détaillée dans The Atlantic, alertant sur le manque de prudence de la firme face aux risques de l'intelligence artificielle. Ancien diplômé en philosophie de Princeton, lauréat de la bourse Rhodes, et ancien journaliste, Robinson a consacré une partie de sa carrière à l'impact sociétal des technologies. Après avoir co-fondé une organisation dédiée aux données publiques et enseigné l'éthique technologique chez Apple, il a rejoint OpenAI en 2023. Son objectif initial était de contribuer au débat sur la régulation et la gouvernance de l'IA. Initialement optimiste sur les protocoles de sécurité de l'entreprise, Robinson a progressivement exprimé des inquiétudes publiques sur les réseaux sociaux concernant la vitesse de déploiement des modèles. Selon lui, la course aux lancements ne laisse pas assez de temps pour internaliser les enjeux civilisationnels et garantir une supervision adéquate. Estimant qu'il pourrait être plus efficace en tant que voix extérieure pour sensibiliser le grand public et renforcer les pressions externes en faveur de normes de sécurité plus strictes, il a décidé de quitter ses fonctions. Son départ s'aligne sur les récentes démissions d'autres chercheurs spécialisés dans la sécurité de l'IA. Face à ces critiques, OpenAI a publié une déclaration assurant maintenir des procédures de sécurité et de cybersécurité rigoureuses. L'entreprise précise qu'elle suspend ou retarde l'entraînement des modèles lorsque ceux-ci deviennent plus performants que les mesures de contrôle actuelles, affirmant ainsi veiller à ne pas dépasser les capacités de gestion sécurisée. La démission de Robinson alimente un débat majeur au sein de la technologie : comment harmoniser l'innovation rapide avec une responsabilité accrue. Alors que les modèles d'IA deviennent de plus en plus puissants, les avertissements répétés d'anciens collaborateurs soulignent la nécessité d'une gouvernance plus transparente et proactive, avant que les écarts entre capacité technologique et cadre de sécurité ne s'aggravent.
