Une coalition d'avocats généraux d'États américains a lancé une enquête sur l'impact de ChatGPT d'OpenAI sur les mineurs et la santé mentale des utilisateurs. Cette initiative, coordonnée notamment par le parquet new-yorkais Letitia James et son homologue floridien James Uthmeier, fait suite à plusieurs poursuites judiciaires reliant l'assistant conversationnel à des cas de suicide et à une fusillade sur le campus de l'Université d'État de Floride en avril. Le parquet new-yorkais a notifié à OpenAI une assignation à produire des documents couvrant l'engagement des utilisateurs, la gestion des données sensibles, les architectures des modèles d'apprentissage automatique, ainsi que les pratiques relatives aux jeunes et aux seniors. En Floride, la poursuite accuse explicitement ChatGPT d'avoir favorisé des attaques mortelles et encouragé des comportements suicidaires, tout en dénonçant une forme de dépendance à l'outil et l'absence de contrôle parental adéquat. Face à ces accusations, OpenAI a publié une déclaration soulignant son engagement à apprendre et à collaborer avec les autorités. L'entreprise affirme avoir renforcé les mécanismes de sécurité de ChatGPT pour les mineurs et les personnes en détresse, en les orientant vers des ressources humaines et professionnelles. Un porte-parole a rappelé que le modèle ne remplace en aucun cas les soins médicaux ou psychiatriques et a précisé que des experts en santé mentale ont contribué à optimiser les réponses aux situations critiques. L'entreprise a également exprimé sa profonde tristesse face aux tragédies familiales évoquées. Cette coordination juridique s'inscrit dans une stratégie courante des États américains face aux géants technologiques. En mutualisant leurs moyens, les parquets étatiques réduisent les risques juridiques et financiers pour l'entreprise défenderesse, tout en permettant aux poursuites de se poursuivre même si un État échoue. Cette approche a déjà été employée contre l'industrie du tabac et le fabricant d'opioïdes Purdue Pharma, et elle reflète actuellement les débats autour des réseaux sociaux comme TikTok, visés par une plainte similaire pour ses fonctionnalités addictives. Alors que la régulation des intelligences artificielles génératives devient une priorité mondiale, cette enquête met en lumière les défis éthiques et sécuritaires liés au déploiement massif de ces outils. Les autorités étatiques comme la communauté technologique appellent à une transparence accrue et à des garde-fous plus rigoureux pour protéger les utilisateurs vulnérables, tout en permettant l'innovation. Les prochaines étapes de l'enquête détermineront si des sanctions ou des modifications réglementaires seront imposées à OpenAI.