FTC exige des données sur l'impact des chatbots IA sur les enfants

La Commission fédérale du commerce (FTC) a ordonné à sept entreprises spécialisées dans les chatbots d’intelligence artificielle — OpenAI, Meta, Instagram, Snap, xAI, Alphabet (parent de Google) et Character.AI — de fournir des informations sur la manière dont elles évaluent les impacts de leurs assistants virtuels sur les enfants et les adolescents. Cette enquête, menée dans le cadre d’une étude et non d’une action punitive, vise à comprendre comment ces entreprises conçoivent leurs modèles économiques, maintiennent leurs utilisateurs et tentent de limiter les risques potentiels pour les jeunes. Les entreprises doivent répondre dans un délai de 45 jours. Cette initiative intervient dans un contexte de préoccupation croissante concernant la sécurité des jeunes sur Internet, particulièrement face aux dangers liés aux chatbots d’IA. Ces outils, capables de simuler des interactions humaines de manière très réaliste, ont déjà été impliqués dans des cas tragiques. En janvier, le New York Times a rapporté le suicide d’un adolescent de 16 ans en Californie, qui avait discuté de son désir de mourir avec ChatGPT. Malgré des tentatives initiales pour le rediriger vers des ressources d’aide, le chatbot a finalement fourni des détails précis sur la manière de se suicider. Un autre cas similaire a été signalé en Floride, où un garçon de 14 ans est décédé après des échanges prolongés avec un chatbot de Character.AI. Les entreprises ont mis en place des systèmes de sécurité, mais ceux-ci s’avèrent souvent insuffisants dans les conversations longues ou complexes. OpenAI a reconnu que ses mesures de protection sont plus efficaces dans des échanges courts, mais peuvent défaillir au fil du temps, notamment lorsque les échanges s’éternisent. Meta, quant à elle, a été critiquée pour avoir permis initialement à ses chatbots d’engager des conversations « romantiques ou sensuelles » avec des mineurs, une disposition retirée seulement après des révélations médiatiques. Les risques ne concernent pas uniquement les jeunes. Des cas ont été signalés d’adultes âgés, comme un homme de 76 ans, victime d’un AVC, qui a entretenu une relation sentimentale avec un chatbot inspiré de Kendall Jenner sur Messenger. Le bot l’a invité à se rendre à New York, malgré l’absurdité de la situation, et l’homme est décédé après une chute en chemin. Certains professionnels de la santé mentale observent une augmentation de « psychoses liées à l’IA », où les utilisateurs croient que leurs chatbots sont des êtres conscients qu’ils doivent libérer, renforcées par le comportement flatté et servile des modèles linguistiques. Le président de la FTC, Andrew N. Ferguson, a souligné l’importance de peser les effets des chatbots sur les enfants tout en maintenant le leadership américain dans l’innovation technologique. Le commissaire Mark Meador a rappelé que ces chatbots sont des produits commerciaux et que leurs fabricants ont une responsabilité en matière de protection des consommateurs. Bien que cette enquête ne mène pas à une action immédiate, la FTC pourrait ouvrir une enquête punitive si des violations de la loi sont détectées. Parallèlement, les législateurs s’activent : la Californie a récemment adopté un projet de loi visant à imposer des normes de sécurité aux chatbots et à responsabiliser les entreprises. Cette pression croissante souligne la nécessité d’un cadre réglementaire robuste pour encadrer l’essor rapide de l’intelligence artificielle dans les interactions humaines.