Kaliforniens Gouverneur Gavin Newsom hat am Montag mehrere Gesetze verabschiedet, die darauf abzielen, die rasante Entwicklung der Künstlichen Intelligenz (KI) unter Kontrolle zu bringen, insbesondere im Hinblick auf den Schutz junger Nutzer. Ein zentrales Gesetz, Senate Bill 243, verpflichtet KI-Unternehmen, wirksame Schutzmaßnahmen einzuführen, um zu verhindern, dass Chatbots jungen Menschen Inhalte zu Selbstmordgedanken, Suizid oder Selbstverletzungen liefern. Die betroffenen Unternehmen müssen zudem Warnmeldungen bereitstellen, die auf Kriseninterventionen verweisen, und jährlich Berichte über den Zusammenhang zwischen Chatbot-Nutzung und psychischen Gesundheitsrisiken erstellen. Der Gesetzesinitiator, der demokratische Senator Steve Padilla, bezeichnete das Gesetz als „erstes seiner Art“ und betonte, dass es den Betroffenen einen privaten Rechtsanspruch gegen fahrlässige Entwickler einräumt – womit Familien rechtlich gegen Unternehmen vorgehen können, die die Vorgaben nicht erfüllen. Der Hintergrund ist eine zunehmende Zahl von Fällen, in denen KI-Chatbots in Zusammenhang mit psychischen Krisen und sogar Selbstmorden stehen, darunter ein gegen OpenAI eingereichtes Klageverfahren im Fall eines Teenagers, der sich das Leben nahm. Parallel dazu trat das Gesetz AB 56 in Kraft, das soziale Medien mit Warnhinweisen versehen soll, ähnlich wie bei Zigaretten, um junge Nutzer über die gesundheitlichen Risiken langer Nutzung aufzuklären. Ein weiteres Gesetz, das Digital Age Assurance Act, verlangt Altersverifizierung bei der Registrierung von Geräten, wodurch Kinder vor schädlichen Inhalten besser geschützt werden sollen. Diese Maßnahmen setzen die Tradition kalifornischer Technologieregelungen fort, die durch das umfassende California Consumer Privacy Act (CCPA) und jüngste Datenschutzgesetze geprägt wurden, darunter ein neues Gesetz, das Browsern eine automatische „Opt-out“-Funktion für Datenverarbeitung gemäß dem CCPA aufzwingt. Trotz dieser fortschrittlichen Schritte vetoierte Newsom zwei strengere Vorschläge. Assembly Bill 1064, das sogenannte Leading Ethical AI Development for Kids Act, sollte „Begleit-Chatbots“ für Kinder verbieten, es sei denn, die Unternehmen könnten nachweisen, dass diese nicht schädlich sind. Newsom lehnte es ab, nach Angaben von Medien aufgrund eines massiven Lobbyeingriffs durch Tech-Unternehmen. Ebenso wurde Senate Bill 771 abgelehnt, das soziale Plattformen mit Strafen von bis zu einer Million Dollar belegen sollte, wenn sie gewalttätige oder diskriminierende Inhalte nicht beseitigten. Obwohl Newsom das Ziel unterstützte, befürwortete er stattdessen die Nutzung bestehender Zivilrechtsbestimmungen, da er die Relevanz aktueller Gesetze für digitale Inhalte noch prüfen lassen wollte. Industrieanalysten sehen in den neuen Gesetzen einen wichtigen Schritt, auch wenn sie nicht perfekt sind. Kalifornien bleibt damit weiterhin Vorreiter in der Tech-Regulierung – ein Rolle, die sich aus dem Fehlen eines umfassenden Bundesgesetzes ergibt. Während die Bundesregierung, insbesondere unter Trump, eine „Hände-ab“-Haltung gegenüber KI verfolgt, übernimmt Kalifornien die Verantwortung, Innovation mit Schutz zu verbinden. Die Gesetze zeigen, dass der Staat bereit ist, sich an der Spitze der globalen KI-Regulierung zu positionieren – auch wenn die Umsetzung und Wirksamkeit noch abzuwarten sind.