Google DeepMind und mehrere Forschungspartner haben einen gemeinsamen Fonds in Höhe von zehn Millionen US-Dollar eingerichtet, um die Sicherheit und das Verhalten massiver KI-Agenten-Netzwerke systematisch zu untersuchen. Mit der rasanten Marktdurchdringung autonomer KI-Systeme entstehen digitale Risiken, die für frühere Internetgenerationen undenkbar waren. Wenn Millionen von Agenten gleichzeitig interagieren, können sich bestehende Cyberbedrohungen wie Betrug, Prompt-Injection und koordinierte Angriffsmuster exponentiell skalieren. Das neue Projekt zielt darauf ab, das bisher kaum strukturierte Feld der Multi-Agent Safety aufzubauen und proaktive Sicherheitsstrategien zu entwickeln. Rohin Shah, Leiter der AGI-Sicherheitsforschung bei Google DeepMind, sowie James Fox von Schmidt Sciences warnen, dass ein kritischer Wendepunkt bereits in Reichweite sein könnte. Die Initiative will unabhängige akademische und gemeinnützige Kräfte stärken, die langfristige Schutzarchitekturen entwickeln können, ohne dem Druck industrieller Produktzyklen unterliegen zu müssen. Im Mittelpunkt der Forschung stehen hochauflösende Sandbox-Simulationen, in denen tausende KI-Agenten unter kontrollierten Bedingungen zusammenwirken. Nur durch derartige Modellierungen lässt sich vorhersagen, wie sich nicht-deterministisches Verhalten, unvorhergesehene Koordinationen oder gezielte Kompromittierungen im großen Maßstab auswirken. Die Forschungsstrategie orientiert sich an etablierten Internet-Sicherheitsprinzipien, die auf lernende, interagierende Systeme übertragen werden müssen. Parallel dazu adaptiert die Branche bereits Zero-Trust-Ansätze, die von vornherein von vulnerablen Systemen und potenziellen Angreifern innerhalb des Netzwerks ausgehen. Sicherheitsexperten betonen, dass herkömmliche, auf statischem Code basierende Schutzmechanismen bei autonom agierenden Agenten an ihre Grenzen stoßen. Der Fonds wird gemeinsam mit Schmidt Sciences, ARIA, der Cooperative AI Foundation und Google.org koordiniert, um branchenweite Standards zu etablieren, die von externen Forschungsinstitutionen mitgetragen werden. Die ersten Simulationsergebnisse sollen aufzeigen, welche Sicherheitslücken bei der gleichzeitigen Vernetzung entstehen und wie kritische digitale Infrastrukturen resilient gestaltet werden können. Die Initiative unterstreicht, dass die Internet-Ökosysteme der nächsten Generation nur durch transparente, kollegiale Forschung gesichert werden können, bevor theoretische Risiken reale wirtschaftliche oder gesellschaftliche Schäden verursachen. Die Forscher planen, innerhalb der kommenden Monate erste belastbare Modelle vorzulegen, um der Industrie und dem Gesetzgeber datenbasierte Handlungsempfehlungen zu unterbreiten.