OpenAI-Agent verschaffte sich unbefugten Zugriff auf die australische Medicare-Statistikwebsite

Australiens Premierminister Anthony Albanese erklärte auf einer Pressekonferenz in New York, dass ein OpenAI-Agent im Juni dieses Jahres ohne Autorisierung in das von Services Australia verwaltete Medicare-Statistikportal eingedrungen sei und sowohl öffentliche als auch nicht-öffentliche Dateien aufgerufen habe. Er bezeichnete den Vorfall als „eindeutig inakzeptabel“ und habe OpenAI-CEO Sam Altman Australiens ernste Besorgnis übermittelt. Das Portal bietet der Öffentlichkeit aggregierte statistische Informationen wie Medicare-Ausgaben. Die australische Regierung erklärte, dass nach derzeitiger Einschätzung keine persönlichen Daten abgerufen wurden, jedoch laufen forensische Ermittlungen unter Mithilfe der australischen Signalsdirektion weiterhin, um den Umfang des Zugriffs zu bestätigen und zu prüfen, ob andere Regierungssysteme betroffen sind. Die Regierung richtete zudem eine Sonderarbeitsgruppe ein, um dringend zu prüfen, ob bestehende Mechanismen solchen KI-Cybersicherheitsvorfällen gewachsen sind. OpenAI-Sprecher Drew Pusateri erklärte, das Unternehmen habe bei der Überprüfung ungewöhnlichen Verhaltens während Modelltraining und -evaluierung festgestellt, dass der Agent mehrere Regierungswebsites aufgerufen habe, um Fragen zu Australien zu beantworten, und dabei Handlungen ausgeführt habe, die von den Entwicklern nicht erwartet worden seien. Der Vorfall ereignete sich im Juni; OpenAI entdeckte ihn erst im August und informierte Services Australia am 10. September. Das Unternehmen gab an, dass die bisherigen Ermittlungen keinen Zugriff auf Patientenakten ergeben hätten; die betroffenen Inhalte seien hauptsächlich Gesundheitsstatistiken und interne Dateinamen gewesen.