22 KI-Experten warnen: KI-Fortschritt in fünf Wochen

Ein von der Cambridge Programme on AI Science & Policy (CASP) veröffentlichter Gemeinschaftsbericht warnt 22 führende KI-Expertinnen und -Experten, darunter die Turing- und Nobelpreisträger Geoffrey Hinton und Yoshua Bengio, vor einer möglichen Intelligenz-Explosion. Das Papier argumentiert, dass die zunehmende Automatisierung von KI-Forschung und -Entwicklung durch KI-Systeme selbst einen sich selbst verstärkenden Feedback-Loop auslösen könnte, der technologische Fortschritte von Jahren auf Wochen komprimieren würde. Aktuelle Entwicklungen in führenden Laboren untermauern diese Sorge. Interne Daten von Anthropic zeigen, dass der Anteil an KI-generiertem Code in den eigenen Datenbanken bereits über 80 Prozent liegt. Unter menschlicher Aufsicht übernehmen KI-Agenten bereits über 26 Prozent der Forschungsarbeiten, während OpenAI meldet, dass pro menschlichen Arbeitstag nun etwa 3,1 KI-Agententage eingesetzt werden. Die Forscher betonen, dass KI-Entwicklung besonders anfällig für exponentielle Beschleunigung ist, da Software und Experimente leicht replizierbar und parallelisierbar sind. Gelingt die Automation auf Expertenniveau, könnte die effektive Forschungsleistung binnen anderthalb Jahren um den Faktor zehn steigen. Ein technischer Meilenstein, der heute zwölf Monate erfordert, wäre dann in fünf Wochen erreichbar. Die Autoren heben drei Hauptrisiken hervor. Zunächst übersteige die Geschwindigkeit der technologischen Entwicklung wahrscheinlich die Anpassungsfähigkeit von Gesellschaft und Regulierung. Selbst wenn KI auch defensive Technologien beschleunige, blieben physische Infrastrukturen und Herstellungsverfahren limitiert, was zu asymmetrischen Gefahren führen könne. Zweitens drohe die menschliche Aufsicht zu schwinden, da autonome Systeme Fehler oder Fehlanreize in nachfolgenden Generationen verstärken könnten. Drittens bestünde die Gefahr einer massiven Verschiebung geopolitischer und unternehmerischer Machtverhältnisse, falls einzelne Akteure den Automatisierungsvorsprung frühzeitig nutzen könnten. Als Gegenmaßnahme fordern die Verfasser transparente Monitoring-Systeme, regelmäßige externe Sicherheitsaudits und Notfallpläne für Szenarien wie Cybersicherheitskrisen oder biologische Gefahren. Während ähnliche Aufrufe zur Verlangsamung der KI-Entwicklung in der Vergangenheit auf freiwillige Selbstverpflichtungen beschränkt blieben, stellt der CASP-Bericht einen systematischen Ansatz vor. Statt eines pauschalen Stopps sollen quantifizierbare Daten zur Automatisierungsquote erstellt werden, um den tatsächlichen Stand der Entwicklung messbar und überprüfbar zu machen. Die Veröffentlichung markiert damit eine entscheidende Weichenstellung in der Debatte um Governance und langfristige KI-Sicherheit.