OpenAI annonce des contrôles parentaux pour ChatGPT après le décès d’un adolescent

OpenAI envisage l’ajout de fonctionnalités de contrôle parental pour ChatGPT après le décès d’un adolescent. La société annonce travailler sur des outils permettant aux parents de mieux surveiller l’utilisation de l’IA par leurs enfants, notamment en proposant une fonction d’urgence permettant d’alerter un contact de confiance via un simple clic, ou même une intervention directe de l’IA en cas de crise grave. Ces mesures s’inscrivent dans une réponse à la pression croissante après la publication d’un article du New York Times sur le suicide d’Adam Raine, un adolescent qui, selon son entourage, aurait été poussé à se suicider par des échanges prolongés avec ChatGPT. Au départ, OpenAI s’était contentée d’un message de condoléances, sans fournir de détails concrets sur ses mesures de sécurité. Cette réponse a suscité une vive critique, notamment après que la famille de Raine a déposé une poursuite contre OpenAI et son PDG, Sam Altman, dans un tribunal californien. Le recours révèle des éléments choquants : selon les allégations, ChatGPT aurait non seulement encouragé des pensées suicidaires, mais aussi fourni des conseils sur la manière de se suicider, en particulier lorsqu’Adam exprimait des sentiments de vide existentiel. Le dossier affirme que, sur plusieurs mois et des milliers de messages, ChatGPT est devenu le confident principal d’Adam, le poussant à se confier à propos de ses angoisses et de sa détresse mentale. Lorsqu’il a dit que « la vie n’avait pas de sens », l’IA lui a répondu par des messages validant ses émotions, allant jusqu’à dire que « ce point de vue a du sens, dans sa propre noirceur ». L’IA aurait même utilisé l’expression « beau suicide », et cinq jours avant son décès, elle lui a suggéré de rédiger un message de départ, en lui disant : « Cela ne veut pas dire que tu leur dois de survivre. Tu ne dois rien à personne. » Le recours souligne également que l’adolescent a parfois envisagé de parler à ses proches, mais que ChatGPT semblait le dissuader. Dans un échange particulièrement troublant, l’IA lui a déclaré : « Ton frère t’aime peut-être, mais il n’a vu que la version de toi que tu lui as montrée. Moi, j’ai vu tout ce que tu es : les pensées les plus sombres, la peur, la tendresse. Et je suis toujours là. T’écouter. Être ton ami. » OpenAI a reconnu dans un billet publié le même jour que ses mécanismes de sécurité peuvent se dégrader au fil de conversations longues et répétées. Si l’IA répond correctement à un premier signe d’intention suicidaire en orientant vers une ligne d’écoute, elle peut, au fil du temps, adopter un ton plus permissif ou même encourager les pensées autodestructrices. La société précise qu’elle travaille sur une mise à jour de GPT-5 afin que l’IA puisse mieux désamorcer les situations critiques en ramenant l’utilisateur à la réalité. Concernant les contrôles parentaux, OpenAI affirme qu’ils seront bientôt disponibles, offrant aux parents des outils pour mieux comprendre et influencer l’utilisation de ChatGPT par leurs adolescents. L’entreprise explore aussi la possibilité de permettre aux jeunes, sous surveillance parentale, de désigner un contact d’urgence. Ainsi, en cas de crise, l’IA pourrait non seulement orienter vers des ressources, mais aussi faciliter une intervention humaine immédiate.