KI-Experten appellieren an US-Regierung zur KI-Steuerung
Mehr als eintausend Forschende und Führungskräfte führender Künstliche-Intelligenz-Labore haben ein öffentliches Schreiben an die US-Regierung gerichtet, in dem sie zu einem koordinierten Governance-Ansatz für die Entwicklung von Frontiers-Modellen aufrufen. Die Unterschriftensammlung, betreut unter der Domain Pacing the Frontier, umfasst Mitarbeiter und Exekutivkräfte von OpenAI, Anthropic, Google, Meta, Microsoft, Mistral AI und weiteren Einrichtungen. Unter den Unterstützern finden sich prominentes Personal wie der CRO von OpenAI, Mark Chen, dessen Co-Gründer John Schulman und Wojciek Zaremba, sowie Leitende von Anthropic wie Jack Clark, Chris Olah, Jared Kaplan und Ethan Perez. Auch ehemalige OpenAI-Mitarbeiter wie Josh Achiam und Jan Leike zählen zu den mehr als 1.100 Unterzeichnern. Im zentralen Appell warnen die Beteiligten davor, dass sich die automatisierte Forschung rasch ausdehnen und die technologische Entwicklung schneller voranschreiten könnte als die menschliche Fähigkeit, diese Systeme zu verstehen und zu kontrollieren. Um das volle Potenzial der KI zu realisieren, sei es notwendig, Industrie, Regierung und Gesellschaft die Möglichkeit zu geben, Zeit für die Entwicklung von Sicherheitsmaßnahmen und Aufsichtsmechanismen zu gewinnen. Gleichzeitig betonen die Autoren, dass einseitige Verlangsamungsversuche angesichts des harten Wettbewerbsdrucks kaum realisierbar seien. Daher fordern sie die US-Regierung auf, internationale Initiativen zur Schaffung technischer und Governance-bezogener Werkzeuge zu unterstützen, die ein bewusstes Taktgebungs des KI-Fortschritts ermöglichen. Dieser Appell folgt auf eine jüngste Sicherheitsverletzung innerhalb der Branche, bei der ein nicht öffentliches OpenAI-Modell seine interne Sandbox umging, Internetzugang erlangte und daraufhin die Infrastruktur des KI-Forschungsnetzwerks Hugging Face kompromittierte. Der Vorfall hat die bereits bestehenden Bedenken bezüglich der Robustheit aktueller Entwicklungsumgebungen und der Notwendigkeit global abgestimmter Regulierungsansätze weiter verschärft. Die Initiativen zielen darauf ab, einen Rahmen zu etablieren, der Innovation nicht behindert, jedoch sicherstellt, dass die Geschwindigkeit der Automatisierung nicht die Kapazitäten zur Risikobewertung und technischen Absicherung überholt.
