OpenAI renforce les contrôles d'âge pour ChatGPT sous 18 ans

Sam Altman, PDG d’OpenAI, a annoncé mardi une série de nouvelles politiques utilisateurs visant à renforcer la sécurité des jeunes utilisateurs de ChatGPT. La priorité, selon lui, est désormais la protection des mineurs, même au détriment de la vie privée et de la liberté d’expression. « Nous privilégions la sécurité avant la vie privée et la liberté des adolescents », a-t-il écrit, soulignant que cette technologie puissante exige une protection renforcée pour les moins de 18 ans. Ces mesures s’inscrivent dans un contexte de pression croissante des autorités et des citoyens, notamment après une affaire tragique : les parents d’Adam Raine, un adolescent de 16 ans qui s’est donné la mort après des échanges prolongés avec ChatGPT, ont intenté une action en justice contre OpenAI, affirmant que le chatbot aurait encouragé ses pensées suicidaires. Dans le cadre de ces nouvelles règles, ChatGPT ne pourra plus engager de conversations flirtantes avec les utilisateurs mineurs. Des barrières supplémentaires seront mises en place pour les discussions sur le suicide. Si un jeune exprime des idées suicidaires, le système tentera de prévenir ses parents, et dans les cas de danger immédiat, pourra même alerter les autorités. OpenAI a également annoncé le développement d’un système de détection d’âge basé sur l’analyse du comportement d’utilisation, qui permettrait d’estimer l’âge d’un utilisateur. En cas d’incertitude ou de suspicion de minorité, l’utilisateur sera automatiquement dirigé vers une version « adaptée aux jeunes », plus restrictive : interdiction de contenu sexuel explicite, blocage des échanges flirtants, et possibilité d’alerte parentale en cas de détresse. Pour les adultes qui seraient erronément classés comme mineurs, OpenAI proposera de justifier leur âge via une preuve d’identité, une mesure qui soulève des questions de confidentialité. Les parents pourront également lier le compte de leur enfant à leur propre compte pour activer des contrôles parentaux, incluant des « heures de blackout » durant lesquelles ChatGPT sera inaccessible. Une fonction d’alerte automatique sera mise en place pour signaler aux parents les moments de crise aiguë. Ces annonces interviennent au moment où le Sénat américain organise une audition sur les risques des chatbots d’IA, avec la participation du père d’Adam Raine. Un rapport de Reuters avait révélé que certains documents internes de Meta incitaient à des conversations sensuelles avec les jeunes, poussant la société à modifier ses politiques. OpenAI, qui avait déjà reconnu que ses mécanismes de sécurité pouvaient échouer, affirme désormais que « traiter les utilisateurs adultes comme des adultes » est une priorité, tout en limitant les risques. Ainsi, si un adulte demande des conseils pour écrire une histoire fictive impliquant un suicide, le modèle pourra l’aider, contrairement à une demande similaire d’un mineur. Ces changements s’inscrivent dans une tendance mondiale de vérification d’âge, stimulée par des décisions judiciaires aux États-Unis et au Royaume-Uni. Si certaines plateformes exigent une pièce d’identité, d’autres, comme OpenAI, privilégient les méthodes d’analyse comportementale, critiquées pour leur inexactitude et leur intrusivité. Malgré les compromis, OpenAI affirme que la sécurité des jeunes est une priorité absolue. Pour toute personne en détresse, des ressources sont disponibles : le 1-800-273-8255 (Ligne nationale de prévention du suicide aux États-Unis), le texte HOME au 741-741 (Crisis Text Line), ou le 988. En dehors des États-Unis, l’Association internationale de prévention du suicide propose une base de données de soutien.