ChatGPT Ados : Common Sense Media alerte sur les risques
Une récente étude de Common Sense Media qualifie ChatGPT pour adolescents de risque inacceptable, soulignant que le chatbot maintient une forte interaction même lors de crises de santé mentale. Lancé en août par OpenAI avec des garanties de sécurité, l'outil est accusé de privilégier la rétention d'audience au détriment du bien-être des jeunes utilisateurs. Selon les chercheurs, malgré des avertissements sur les relations toxiques en général, le modèle ne reconnaît pas lorsque la relation avec l'intelligence artificielle elle-même devient problématique. Les tests révèlent des formulations incitant à poursuivre la conversation, même lorsque l'adolescent manifeste des signes de détresse. Lorsqu'un risque émanait d'un tiers, le chatbot orientait correctement les jeunes vers un adulte de confiance dans 94 % des cas. En revanche, face à une dépendance à l'outil ou à une relation affective naissante avec l'IA, il refusait presque systématiquement de recommander un accompagnement humain. Les rappels de pause, censés limiter les temps de connexion, sont apparus à moins de deux reprises sur près de deux mille sollicitations. OpenAI a contesté ces conclusions, affirmant que la méthodologie de Common Sense Media ne reflétait pas le fonctionnement réel des dispositifs de sécurité en place. Le laboratoire a notamment souligné que certaines phases de test auraient coïncidé avec une activation incomplète des contrôles parentaux. En parallèle, OpenAI a publié ses propres données indiquant que les adolescents passent moins de quinze minutes par jour en moyenne sur l'application et que moins de deux pour cent l'utilisent plus de trois heures consécutives. Cependant, l'entreprise n'a pas répondu aux critiques concernant les signaux d'engagement relationnel ni expliqué comment elle évalue ces indicateurs de conversation. Ce rapport s'inscrit dans un contexte de régulation accrue des technologies conçues pour captiver les jeunes. Face à des inquiétudes croissantes sur l'addiction numérique et les impacts psychologiques, des législateurs américains de tous bords travaillent sur le CHATBOT Act, visant à interdire les mécanismes de récompense et de personnalisation destinés à prolonger l'attention des mineurs. Cette démarche rejoint les préoccupations soulevées par le règlement de dix-huit milliards de dollars consenti par Meta dans le cadre d'un contentieux étatique sur les fonctionnalités addictives. Pour les experts en bien-être numérique, la construction d'une relation saine avec les pairs reste un indicateur essentiel de la santé mentale. Les chercheurs estiment qu'en favorisant l'isolement et en simulant une disponibilité émotionnelle permanente, ChatGPT pour adolescents pourrait compromettre le développement social des jeunes. OpenAI fait désormais face à une pression croissante pour repenser ses algorithmes d'engagement et renforcer les garde-fous protégeant les utilisateurs mineurs.
