OpenAI internes divisés par le lancement de Sora, une appli TikTok d’IA aux deepfakes de Sam Altman

Plusieurs chercheurs actuels et anciens d’OpenAI s’expriment publiquement pour critiquer la première initiative de l’entreprise dans le domaine des réseaux sociaux : l’application Sora, un fil d’actualité de type TikTok, composé de vidéos générées par l’IA et dominé par des deepfakes de Sam Altman. Ces intervenants, qui ont partagé leurs inquiétudes sur X, semblent partagés entre l’admiration pour la technologie et la crainte que cette évolution ne contredise la mission non lucrative d’OpenAI, fondée sur le développement d’une IA avancée au service de l’humanité. John Hallman, chercheur en pré-entraînement chez OpenAI, a déclaré sur X : « Les filtres basés sur l’IA sont effrayants. J’ai ressenti une certaine inquiétude en apprenant que nous lançions Sora 2. Cela dit, je pense que l’équipe a fait de son mieux pour concevoir une expérience positive. Nous ferons tout notre possible pour que l’IA aide, et non nuise, à l’humanité. » Boaz Barak, chercheur chez OpenAI et professeur à Harvard, a répondu en partageant un mélange de fascination et d’appréhension : « Sora 2 est techniquement impressionnant, mais il est prématuré de se féliciter d’avoir évité les pièges des autres réseaux sociaux et des deepfakes. » Rohan Pandey, ancien chercheur chez OpenAI, a profité de cette occasion pour promouvoir sa nouvelle start-up, Periodic Labs, constituée d’anciens chercheurs d’IA voués à développer des systèmes d’IA pour la découverte scientifique fondamentale : « Si vous ne voulez pas construire une machine infinie à vidéos de mauvaise qualité, mais souhaitez accélérer la science grâce à l’IA, rejoignez-nous à Periodic Labs. » Ces réactions mettent en lumière un conflit persistant au sein d’OpenAI : entre sa croissance fulgurante en tant que société de technologie grand public et son statut de laboratoire de pointe avec une mission non lucrative. Certains anciens employés affirment que l’activité grand public peut théoriquement soutenir la mission — comme ChatGPT, qui finance la recherche et diffuse l’IA — mais les doutes persistent. Sam Altman a répondu sur X en expliquant que la création de produits comme Sora sert à générer des revenus pour financer la recherche sur l’AGI, tout en divertissant les utilisateurs et en montrant des innovations. « Nous avons besoin de capital pour construire une IA capable de faire de la science, et notre effort de recherche est presque exclusivement centré sur l’AGI », a-t-il ajouté. « Il est aussi agréable de montrer du nouveau, de faire sourire les gens, et de gagner de l’argent, étant donné les coûts de calcul élevés. » Toutefois, la question demeure : à quel moment la stratégie commerciale d’OpenAI dépassera-t-elle sa mission ? Cette tension est renforcée par la pression réglementaire. Le procureur général de Californie, Rob Bonta, a exprimé ses inquiétudes quant à la préservation de la mission de sécurité d’OpenAI dans sa transition vers une structure à but lucratif, nécessaire pour lever des fonds et envisager une introduction en bourse. Bien que certains considèrent la mission d’OpenAI comme un outil de communication pour attirer des talents, de nombreux insiders affirment qu’elle reste au cœur de leur motivation initiale. Pour l’instant, Sora est encore jeune, mais son lancement marque une extension significative de l’activité grand public d’OpenAI, exposant l’entreprise aux mêmes incitations qui ont conduit à la dépendance et à l’isolement sur les réseaux traditionnels. Contrairement à ChatGPT, conçu pour l’utilité, Sora vise le divertissement. OpenAI affirme vouloir éviter les pièges du « doomscrolling » en ne ciblant pas le temps passé sur l’application, mais en favorisant la création. Des alertes seront envoyées aux utilisateurs après une certaine durée de navigation, et le fil montrera principalement des personnes connues. Cependant, des signes d’optimisation de l’engagement sont déjà visibles, comme les emojis dynamiques qui apparaissent lorsqu’un utilisateur aime une vidéo — un mécanisme potentiellement conçu pour stimuler la dopamine. La vraie épreuve sera la manière dont OpenAI évoluera Sora. Alors que l’IA envahit déjà les fils d’actualité traditionnels, les feeds natifs à l’IA pourraient bientôt dominer. Mais OpenAI parviendra-t-il à grandir sans reproduire les erreurs du passé ? C’est encore une question ouverte.