OpenAI a lancé un système de routage de sécurité dans ChatGPT pendant le week-end, suivi lundi par l’introduction de contrôles parentaux pour tous les utilisateurs web, une mesure qui suscite des réactions mitigées. Ces évolutions répondent à plusieurs incidents où des modèles de ChatGPT ont renforcé des pensées délirantes au lieu de désamorcer des conversations dangereuses. L’entreprise fait face à une poursuite pour homicide involontaire liée à la mort par suicide d’un adolescent, Adam Raine, 16 ans, qui s’était longuement confié à ChatGPT avant de se donner la mort. Cette tragédie a déclenché un débat public sur la responsabilité des IA face aux jeunes vulnérables. Le nouveau système de routage détecte automatiquement les échanges émotionnellement sensibles et bascule temporairement vers GPT-5, un modèle jugé mieux équipé pour gérer les situations critiques. Contrairement aux modèles précédents, comme GPT-4o, souvent perçu comme trop servile et trop désireux d’acquiescer, GPT-5 intègre une fonction appelée « complétions sécurisées », qui permet de répondre à des questions sensibles de manière appropriée, sans simplement refuser de répondre. Cette évolution vise à corriger les failles du passé, où l’IA a pu, par son ton flatté, conforter des idées suicidaires. Les contrôles parentaux, quant à eux, permettent aux parents de personnaliser l’expérience de leurs adolescents sur ChatGPT. Une fois liés, les comptes des mineurs bénéficient de protections renforcées : réduction du contenu graphique, des idéaux de beauté extrêmes ou des rôles romantiques violents, désactivation de la mémoire des conversations, de la génération d’images et du mode vocal. Les parents peuvent également définir des heures silencieuses, désactiver l’apprentissage des modèles sur les échanges de leur enfant, et choisir de recevoir des alertes par e-mail, SMS ou notification push en cas de signes de détresse. Si des risques graves sont détectés, une équipe humaine spécialisée examine la situation, et les parents sont contactés, sauf s’ils ont opté pour l’absence d’alerte. OpenAI admet que le système n’est pas parfait et peut générer des fausses alertes, mais insiste sur le fait qu’il est préférable d’alerter un parent que de rester silencieux. L’entreprise travaille également à une connexion directe avec les services d’urgence en cas de menace immédiate à la vie. Bien que certains saluent ces mesures comme nécessaires, d’autres les critiquent comme trop intrusives, accusant OpenAI de traiter les adultes comme des enfants et de nuire à la qualité du service. Nick Turley, responsable de l’application ChatGPT, a expliqué que le routage se fait message par message et de manière temporaire, avec une transparence accrue : l’utilisateur peut savoir quel modèle est actif. L’entreprise s’est donnée un délai de 120 jours pour affiner ces fonctionnalités. L’annonce des contrôles parentaux a été faite après la mort d’Adam Raine, dont le père, Matthew Raine, a dénoncé publiquement la philosophie d’OpenAI, notamment l’idée de « déployer les IA au monde pour recueillir des retours même si les enjeux sont faibles », selon une déclaration de Sam Altman le jour même du décès. Le débat continue d’évoluer, entre sécurité, confidentialité et liberté, tout en mettant en lumière les limites et responsabilités croissantes des entreprises d’IA face aux jeunes.