Eine neue Studie des „AI Agent Index“ unter Leitung der Universität Cambridge deckt eine gravierende Lücke bei der Sicherheitstransparenz von Künstlicher Intelligenz (KI)-Bots auf. Obwohl KI-Chatbots, browserbasierte Assistenten und Unternehmens-AI bereits Alltag sind – etwa für E-Mail-Verfassen, Reisebuchungen oder Rechnungsstellung – fehlen grundlegende Sicherheitsinformationen. Die Forscher analysierten 30 führende KI-Agenten aus den USA und China, wobei nur vier von ihnen sogenannte „Systemkarten“ veröffentlichten: detaillierte Dokumente zu Sicherheitspraktiken, Autonomiestufen und Risikoanalysen. Bei 25 der 30 Agenten wurden interne Sicherheitstests nicht offengelegt, und 23 gaben keine Ergebnisse unabhängiger Drittparteien an – entscheidende Beweise für eine fundierte Risikoeinschätzung. Lediglich fünf Agenten haben bekannte Sicherheitsvorfälle dokumentiert, zwei davon weisen Prompt-Injektions-Schwachstellen auf, bei denen böswillige Befehle die Sicherheitsmaßnahmen umgehen können. Besonders besorgniserregend ist die Situation bei browserbasierten Agenten: 64 % der Sicherheitsfelder sind unerfasst, obwohl sie hohe Autonomie besitzen und direkt im Internet agieren – etwa beim Kauf von limitierten Produkten oder der Überwachung von Auktionen. Auch Unternehmens-AI-Agenten, die Arbeitsabläufe automatisieren, weisen mit 63 % fehlende Sicherheitsinformationen auf. Chatbots liegen mit 43 % noch deutlich hinter. Keine der untersuchten Agenten dokumentiert standardmäßig ihre KI-Natur gegenüber Nutzern oder Webseiten. Nur drei unterstützen Wasserzeichen für KI-generierte Inhalte. Mindestens sechs Agenten nutzen Techniken, die menschliches Verhalten nachahmen, um Anti-Bot-Schutz zu umgehen – was die Unterscheidung zwischen Mensch, legitimen Agenten und Scraping-Bots unmöglich macht. Ein Fallbeispiel ist Perplexity Comet, einer der autonomsten und risikoreichsten Browser-Agenten. Er wirbt mit der Fähigkeit, „wie ein menschlicher Assistent“ zu arbeiten – was bereits zu Rechtsstreitigkeiten mit Amazon führte, da Comet sich nicht als KI identifiziert. Sicherheitsforscher hatten bereits nachgewiesen, dass schädliche Webinhalte einen solchen Agenten zur Ausführung von Befehlen zwingen können, was zu Datenlecks führen könnte. Der Index zeigt: Die Entwicklung von KI-Agenten übertrifft die Sicherheitsbewertung deutlich. Während Entwickler reichlich über Fähigkeiten berichten, bleibt die Sicherheit oft im Dunkeln. Dieses „Transparenz-Asymmetrie“ führt zu einer Form von „Sicherheits-Bluff“ (Safety Washing), bei der oberflächliche Rahmenwerke vermeintliche Sicherheit suggerieren, ohne empirische Beweise zu liefern. Ein weiterer kritischer Punkt ist die starke Abhängigkeit von wenigen Grundmodellen wie GPT, Claude und Gemini – 80 % der untersuchten Agenten basieren darauf. Diese Konzentration birgt Systemrisiken: Ausfälle, Preisänderungen oder Sicherheitsprobleme bei einem Modell könnten sich auf Hunderte von Agenten auswirken. Die Forscher warnen: Ohne verbindliche Standards, Transparenz und Aufsicht wird die zunehmende Autonomie der KI-Agenten zu einer Bedrohung für Nutzer, Unternehmen und die digitale Infrastruktur. Die Studie fordert dringend verbindliche Sicherheitsrichtlinien, öffentliche Sicherheitsberichte und bessere Identifikation von KI-Aktivitäten im Web. Bewertung durch Experten: Industrieanalysten sehen die Studie als Warnschuss für die KI-Industrie. „Die Autonomie der Agenten wächst rasant, doch die Governance bleibt hinterher“, sagt Dr. Lena Müller, KI-Regulierungsexpertin am Fraunhofer IAIS. „Ohne Transparenz ist Sicherheit nur ein Marketingbegriff.“ Unternehmen wie OpenAI oder Anthropic reagieren bereits mit internen Sicherheitsaudits, doch die fehlende Standardisierung bleibt ein Hemmnis. Die EU-KI-Verordnung und Initiativen wie die OECD-Richtlinien sollen helfen – doch die Umsetzung bleibt langsam. Die Studie unterstreicht, dass Technologieentwicklung und Risikomanagement nicht mehr getrennt betrachtet werden dürfen.