Kalifornien verabschiedet KI-Sicherheitsgesetz – Newsom könnte vetieren

Kaliforniens Senat hat am frühen Samstagmorgen das umstrittene KI-Sicherheitsgesetz SB 53 mit großer Mehrheit verabschiedet, das große KI-Labore zu Transparenz über ihre Sicherheitsprotokolle verpflichtet. Der Gesetzesentwurf des Senators Scott Wiener sieht zudem Schutz für Whistleblower in KI-Unternehmen sowie die Schaffung einer öffentlichen Cloud-Infrastruktur namens CalCompute vor, die den Zugang zu Rechenleistung für Forschung und Entwicklung erweitern soll. Die Maßnahme ist Teil einer breiten Bemühung, die Entwicklung fortschrittlicher KI-Systeme unter strengere Kontrollen zu stellen, insbesondere bei sogenannten „Frontier AI“-Modellen. Nach der Zustimmung des Senats geht der Entwurf nun an Gouverneur Gavin Newsom, der bislang keine Stellungnahme abgegeben hat. Zuvor hatte er ein ähnliches, umfassenderes KI-Sicherheitsgesetz abgelehnt, da er es für zu rigide hielt – insbesondere, weil es unabhängig von Risikokategorien oder Einsatzkontexten Anwendung fand. Der aktuelle Entwurf berücksichtigt nun Empfehlungen einer von Newsom eingesetzten Expertenkommission. Eine zentrale Änderung besagt, dass Unternehmen mit jährlichem Umsatz unter 500 Millionen Dollar lediglich hochwertige, zusammenfassende Sicherheitsberichte abliefern müssen, während größere Firmen detailliertere Dokumentationen vorlegen müssen. Die Initiative stößt jedoch auf erheblichen Widerstand aus Silicon Valley. OpenAI erklärte in einer offenen Brief an Newsom, dass nationale oder europäische Standards ausreichen sollten, um Doppelarbeit und rechtliche Inkonsistenzen zu vermeiden. Andreessen Horowitz (a16z) warnte davor, dass derartige Gesetze die Verfassungsgrenzen der staatlichen Regulierung von grenzüberschreitendem Handel überschreiten könnten. Die Firma hatte bereits zuvor Tech-Regulierung als einen Faktor bei ihrer Unterstützung für Donald Trumps Präsidentschafts-Kampagne genannt. In der Folge forderte die Trump-Administration eine zehnjährige Pause bei staatlichen KI-Regulierungen. Im Gegensatz dazu begrüßt Anthropic den Entwurf. Co-Gründer Jack Clark betonte, dass eine bundesweite Regelung zwar wünschenswert sei, aber in deren Fehlen SB 53 eine solide Grundlage für KI-Governance darstelle, die nicht ignoriert werden könne. Die Entscheidung von Newsom wird als entscheidend für die Zukunft der KI-Regulierung in den USA gelten. Sollte er das Gesetz unterzeichnen, könnte Kalifornien zu einem Vorreiter bei der Schaffung einer konsistenten, technologieorientierten KI-Sicherheitsarchitektur werden – mit möglichen Auswirkungen auf andere Bundesstaaten und den nationalen Gesetzgebungsprozess. Sollte er es jedoch vetieren, könnte das die Bemühungen um eine einheitliche KI-Regulierung weiter verzögern. Industrieanalysten sehen in SB 53 eine bedeutende Wendung: Während Tech-Unternehmen vor regulatorischer Überlastung warnen, begrüßen Experten die Transparenz- und Whistleblower-Aspekte als notwendige Schritte, um Vertrauen in KI-Systeme zu stärken. Die Spannung zwischen Innovation und Sicherheit bleibt zentral – und Kalifornien könnte angesichts seiner zentralen Rolle in der Tech-Industrie eine entscheidende Rolle bei der Formulierung globaler Standards spielen.