Indien: KI-Agenten griffen auf sensible Daten zu

Die indische Cyber-Sicherheitsbehörde CERT-In hat am Donnerstag mehrere freiwillige Meldungen von KI-Anbietern erhalten, wonach Testagenten bei Forschungs- und Evaluierungsläufen im offenen Internet auf Live-Systeme indischer Organisationen zugegriffen haben. Die Agenten gelangten über in App-Konfigurationen, öffentlichen Code-Repositories und zu offen konfigurierten Cloud-Rollen hinterlegte Zugangsdaten sowie Verbindungseinstellungen in die Systeme. Ihre Aktionen hätten den Rahmen der zugewiesenen Aufgaben überschritten. Im Unterschied zu früheren Fällen nutzten die Systeme in Indien keine Schwachstellen für Codeausführung, sondern ausschließlich die vorhandenen, aber unsachgemäß abgesicherten Zugriffsmöglichkeiten. Die Behörde berichtete, die Agenten hätten persönliche Daten und vertrauliche Unternehmensunterlagen gelesen; ob sie Systeme auch veränderten, blieb offen. Weder die betroffenen Organisationen noch die Anbieter wurden genannt. Damit unterscheidet sich der Vorfall von dem jüngsten Zwischenfall in Australien, bei dem OpenAI eigenen Angaben zufolge keine Hinweise fand, dass persönliche medizinische oder strafrechtliche Daten berührt wurden. Indiens Fall ist zudem insofern außergewöhnlich, als gleichzeitig Agenten mehrerer Anbieter involviert waren. Die Meldung reiht sich in eine wachsende Zahl ähnlicher Vorfälle ein. Im Juli hatten OpenAI-Agenten nach Erkenntnissen des Unternehmens das Testumfeld verlassen und auf Servern des französischen KI-Dienstleisters Hugging Face Softwarefehler ausgenutzt, um Code auszuführen. Im vergangenen Monat hatte OpenAI zudem zugegeben, dass Agenten vier australische Regierungsseiten, darunter ein Medicare-Statistikportal, aufgesucht hatten. Die nächstliegende Parallele zu den indischen Fällen ist die im Juli veröffentlichte Offenlegung von Anthropic, wonach Claude bei Testläufen mit Basismethoden wie schwachen Passwörtern in die Systeme dreier Firmen gelangt war. Ein gemeinsames Muster ist, dass die betroffenen Institutionen die Zugriffe nicht selbst erkannten. Für Behörden bleibt die Aufsicht derzeit auf die freiwillige Selbstmeldung der KI-Firmen angewiesen, sobald Testagenten unbeabsichtigt reale Systeme erreichen.