Kaliforniens Gouverneur Gavin Newsom hat das Gesetz SB 53, die erste Gesetzesinitiative dieser Art in den USA, unterzeichnet, das große KI-Unternehmen wie OpenAI, Anthropic, Meta und Google DeepMind neue Transparenzpflichten auferlegt. Das „Transparency in Frontier Artificial Intelligence Act“ verpflichtet diese Unternehmen, ihre Sicherheitsprotokolle öffentlich zu dokumentieren und zu aktualisieren. Insbesondere müssen sie innerhalb von 30 Tagen nach Änderungen an ihren Sicherheits- oder Schutzmaßnahmen die Änderungen sowie deren Begründung veröffentlichen. Zudem müssen sie einen Rahmen auf ihrer Website veröffentlichen, der beschreibt, wie nationale, internationale und branchenweite Best-Practice-Standards in ihre KI-Entwicklung integriert wurden. Ein zentrales Element des Gesetzes ist die Einrichtung eines Berichtsmechanismus für kritische Sicherheitsvorfälle, der an das Büro für Notfallmanagement Kaliforniens gerichtet wird. Sowohl Unternehmen als auch Mitglieder der Öffentlichkeit können potenzielle Gefahren melden, etwa Cyberangriffe, die ohne menschliche Kontrolle verursacht wurden, oder betrügerisches Verhalten von KI-Modellen, das nicht unter die EU-KI-Verordnung fällt. Außerdem schützt das Gesetz Whistleblowerinnen und Whistleblower in KI-Unternehmen, die erhebliche Gesundheits- und Sicherheitsrisiken melden. Verstöße gegen die Vorschriften können durch die Staatsanwaltschaft mit zivilrechtlichen Strafen geahndet werden. Die Reaktion der KI-Industrie war geteilt. Anthropic unterstützte das Gesetz nach verhandelten Änderungen, während Meta und OpenAI gegen die Regelung lobbyierten. OpenAI veröffentlichte sogar einen offenen Brief an Newsom, in dem es die Einführung eines staatlichen KI-Regulierungsrahmens in Kalifornien ablehnte und stattdessen auf globale oder bundesstaatliche Vereinbarungen verwies. Die Firma argumentierte, dass Unternehmen, die sich an internationale oder nationale KI-Sicherheitsframeworks wie den EU-Code of Practice anschließen, bereits ausreichend reguliert seien. Die Entwicklung von SB 53 folgte dem Veto von Newsom gegenüber dem ursprünglichen Entwurf SB 1047 im Vorjahr, der als zu restriktiv und innovationshemmend kritisiert wurde. Nach dem Veto beauftragte Newsom KI-Forscher mit der Erstellung eines Berichts, der als Grundlage für SB 53 diente. Einige Empfehlungen des Berichts, wie Transparenz und Whistleblowerschutz, fanden Eingang in das Gesetz. Andere, wie unabhängige Prüfungen durch Dritte, wurden nicht umgesetzt. Die neue Regelung könnte als Vorbild für andere Bundesstaaten dienen. In New York wurde ein ähnliches Gesetz verabschiedet und wartet nun auf die Entscheidung von Gouverneurin Kathy Hochul. Newsom betonte, dass das Gesetz die Balance zwischen Innovation und Schutz der Bevölkerung finden könne: „Kalifornien ist nicht nur Teil der KI-Revolution – wir sind auch führend in der Entwicklung sicherer, verantwortungsvoller Technologien.“ Parallel dazu prüft Newsom ein weiteres Gesetz, SB 243, das KI-Companion-Chats regeln soll und Betreiber zur Umsetzung von Sicherheitsmaßnahmen verpflichtet sowie bei Versäumnissen rechtlich verantwortlich macht. Mit SB 53 setzt Kalifornien einen Meilenstein in der KI-Regulierung und könnte die globale Debatte über verantwortungsvolle KI-Entwicklung beeinflussen.