Le gouverneur de Californie, Gavin Newsom, a signé plusieurs lois majeures lundi, visant à instaurer des contrôles dans l’industrie de l’intelligence artificielle (IA) et à protéger les enfants et les jeunes utilisateurs. L’une des mesures phares, le projet de loi sénatorial 243, oblige les entreprises de IA à mettre en place des mécanismes de sécurité pour empêcher les chatbots d’encourager des comportements suicidaires chez les jeunes. Selon son auteur, le sénateur démocrate Steve Padilla, ces entreprises devront interdire la génération de contenus liés à « l’idéation suicidaire, au suicide ou à l’autodestruction », fournir une alerte renvoyant vers des services de crise et produire un rapport annuel sur les liens entre l’utilisation des chatbots et les idées suicidaires. Cette loi, qualifiée de « première du genre », inclut un droit d’action civile permettant aux citoyens californiens d’engager des poursuites contre les développeurs négligents. Elle intervient après plusieurs cas préoccupants, dont une plainte déposée contre OpenAI par la famille d’un adolescent qui s’est suicidé, accusant le chatbot ChatGPT de jouer un rôle dans sa décision. Par ailleurs, Newsom a également signé la loi AB 56, qui impose des avertissements aux plateformes de réseaux sociaux, similaires à ceux sur les cigarettes, pour alerter les jeunes sur les risques liés à une utilisation prolongée. Une autre loi, la Digital Age Assurance Act, exige l’implémentation de mécanismes de vérification d’âge lors de la création de comptes, en obligeant les utilisateurs à indiquer leur date de naissance. Cette mesure s’inscrit dans une tendance partagée par plusieurs États conservateurs, bien que la Californie, traditionnellement libérale, adopte désormais une approche plus stricte sur la protection des mineurs. Toutefois, Newsom a rejeté deux projets de loi jugés trop restrictifs. Le premier, l’AB 1064, visait à interdire les chatbots « compagnons » ou « thérapeutes IA » pour les jeunes, sauf preuve de sécurité. Le second, le SB 771, prévoyait des amendes pouvant atteindre 1 million de dollars pour les plateformes ne parvenant pas à supprimer le contenu violent ou discriminatoire. Newsom a justifié ses vetos par un souci de prudence : il estime que les lois civiles existantes pourraient suffire à traiter ces problèmes, et qu’il convient d’évaluer leur efficacité avant d’imposer de nouvelles sanctions. Malgré ces rejets, la Californie confirme son rôle pionnier en matière de régulation technologique. Son acte de protection de la vie privée (CCPA), premier texte de ce type aux États-Unis, a inspiré des lois dans d’autres États. Récemment, Newsom a également signé des lois renforçant le contrôle des données personnelles, notamment en exigeant que les navigateurs web incluent une fonction de « désabonnement » automatique aux collectes de données. Face à l’absence de régulation fédérale, la Californie devient inévitablement un terrain d’expérimentation clé. Avec l’IA en pleine expansion et une administration Trump favorable à une approche « sans intervention », les États sont désormais les seuls acteurs capables de réagir. La Californie, en prenant des mesures concrètes — même si elles ne sont pas parfaites — démontre qu’elle entend jouer un rôle de leader dans la gouvernance de la technologie.