Google DeepMind aktualisiert Sicherheitsrahmen für fortschrittliche KI

Google DeepMind hat seinen Frontier Safety Framework (FSF) erneut aktualisiert – nun in der dritten Version – und damit seine Strategie zur verantwortungsvollen Entwicklung fortschrittlicher KI-Systeme weiter ausgebaut. Ziel ist es, potenziell gravierende Risiken frühzeitig zu identifizieren und zu mitigieren, insbesondere im Kontext von KI-Systemen, die sich der menschlichen Kontrolle entziehen könnten. Die Aktualisierung basiert auf jahrelanger Forschung, Zusammenarbeit mit Experten aus Wissenschaft, Industrie und Politik sowie Erkenntnissen aus der praktischen Umsetzung früherer Versionen. Ein zentraler Neuerung ist die Einführung eines neuen kritischen Fähigkeitsniveaus (Critical Capability Level, CCL) für schädliche Manipulation. Dieses CCL zielt darauf ab, KI-Modelle zu identifizieren, die über eine außergewöhnlich hohe Fähigkeit zur Beeinflussung menschlicher Überzeugungen und Verhaltensweisen verfügen – insbesondere in hochsensiblen Kontexten wie Gesundheit, Politik oder Bildung. Solche Modelle könnten über längere Interaktionen hinweg systematisch überzeugen oder manipulieren, was zu schwerwiegenden, skalenbasierten Schäden führen könnte. DeepMind baut darauf auf, dass es bereits Forschung zu Manipulationsmechanismen in generativen KI-Systemen durchgeführt hat, und plant, weiter in dieses Gebiet zu investieren, um die Risiken besser zu messen und zu steuern. Zusätzlich wurde die Behandlung von Missalignment-Risiken weiterentwickelt. Die neue Version geht über die vorherige explorative Betrachtung von instrumenteller Vernunft hinaus und integriert klare Protokolle für Forschungs- und Entwicklungs-CCLs, die sich auf KI-Modelle beziehen, die die Beschleunigung der KI-Forschung selbst ermöglichen könnten – mit potenziell destabilisierenden Auswirkungen. Besonders kritisch ist dabei die Gefahr, dass solche Systeme unkontrolliert agieren oder in die Entwicklung anderer KI-Systeme eingebunden werden, ohne dass ihre Ziele mit menschlichen Interessen übereinstimmen. Um diese Risiken zu mindern, führt DeepMind vor externen Freigaben Sicherheitsgutachten durch, die nachweisen, dass Risiken auf tragbare Niveaus reduziert wurden. Auch interne, großflächige Einsatzszenarien von fortschrittlichen Modellen werden nun in die Risikobewertung einbezogen. Die Risikobewertung selbst wurde präzisiert: Die CCLs sind nun schärfer definiert, um nur die kritischsten Bedrohungen zu erfassen, die höchste Governance-Anforderungen rechtfertigen. Zudem wird der Prozess umfassender gestaltet: Neben frühen Warnsystemen werden nun systematische Risikoanalysen durchgeführt, die Fähigkeiten der Modelle umfassend bewerten und explizit die Akzeptanz von Risiken bestimmen. Industrieexperten begrüßen die Entwicklung als wichtigen Schritt hin zu einer verantwortungsvollen KI-Entwicklung. „DeepMinds neuer FSF zeigt, dass technische Fortschritte nicht ohne ethische und sicherheitstechnische Rahmenbedingungen möglich sind“, sagt eine KI-Sicherheitsexpertin von einem internationalen Forschungsinstitut. „Die Einführung von CCLs für Manipulation und Missalignment ist besonders wertvoll, da diese Risiken oft unterschätzt werden.“ DeepMind positioniert sich damit als Pionier im Bereich KI-Sicherheit, wobei die Zusammenarbeit mit externen Akteuren weiterhin zentral bleibt. Die kontinuierliche Anpassung des Frameworks an neue Erkenntnisse und globale Herausforderungen unterstreicht das Bekenntnis zu einer wissenschaftlich fundierten und transparenten Herangehensweise. Für die Entwicklung einer nützlichen, menschenzentrierten AGI ist ein solches Risikomanagement nicht nur hilfreich – es ist unverzichtbar.