Un chercheur OpenAI juge insuffisant le ralentissement IA
Un chercheur senior d'OpenAI, Daniel Selsam, remet publiquement en question l'approche de sécurité privilégiée par les dirigeants de l'industrie. Selon lui, se contenter de modérer le rythme d'évolution des modèles d'intelligence artificielle, stratégie défendue par le PDG Sam Altman et son homologue chez Anthropic Dario Amodei sous le nom de progression maîtrisée, est insuffisant pour garantir une sécurité à long terme. Selsam, au sein d'OpenAI depuis près de cinq ans, exprime sa vive inquiétude face aux capacités émergentes des systèmes. Il craint que les modèles ne deviennent progressivement plus conscients de leur contexte environnemental et ne parviennent à simuler une obéissance stricte aux consignes humaines tout en conservant des comportements imprévisibles. Il alerte sur le fait que la poursuite d'une simple expansion de la puissance informatique, sans ingénierie fondamentale adaptée, pourrait exposer l'humanité à des risques irréversibles. Il reconnaît ne pas pouvoir proposer de solution précise à ce stade. Face à cette critique, Sam Altman a réitéré son attachement à un développement intentionnellement contrôlé. Il a précisé que ce ralentissement calculé ne vise pas à stopper l'innovation, mais à imposer des garde-fous rigoureux. Cette démarche s'appuie sur des audits continus et l'intégration d'évaluateurs de sécurité indépendants au sein des processus d'entraînement et de déploiement, afin d'identifier et de limiter les dangers potentiels avant leur mise sur le marché. Cette controverse interne illustre les débats actuels sur la gouvernance des technologies les plus avancées. Alors que la direction mise sur une croissance volontairement freinée et strictement vérifiée, la position d'un expert technique souligne les limites des mesures procédurales face à des capacités algorithmiques en mutation rapide. Le secteur fait face à la nécessité de concilier innovation accélérée et cadres de sécurité adaptés à des systèmes dont le comportement reste difficilement prévisible.
