Startup hackt OpenAI mit Claude und erhält 6.500 $ Prämie
Das kalifornische Start-up Hacktron hat eine kritische Sicherheitslücke in der Infrastruktur von OpenAI aufgedeckt und erfolgreich mittels des KI-Modells Claude ausgenutzt. Der Gründer und Geschäftsführer Zayne Zhang gab am Sonntag bekannt, dass sein Team im Juli Schwachstellen im öffentlichen Hilfe-Forum der KI-Sparte identifizierte. Durch die Ausnutzung dieser Lücke hätten Angreifer theoretisch die Konten von Nutzern und Mitarbeitern übernehmen sowie deren ChatGPT- und Codex-Zugänge kompromittieren können. Um die Verwundbarkeit zu validieren, nutzte Hacktron den im Rahmen des Cyber Verification Program von Anthropic angepassten Zugriff auf Claude. Das Research-Team gelangte so in den Account eines OpenAI-Mitarbeiters und veranlasste dessen Codex-Instanz, Änderungen an einem internen Code-Repository vorzuschlagen. Die Sicherheitsforscher brachen den Angriff ab, bevor sensible Daten eingesehen wurden, und meldeten den Vorfall direkt an OpenAI. Als Belohnung für die verantwortungsvolle Offenlegung erhielt das weniger als ein Jahr alte Unternehmen mit unter zehn Mitarbeitenden eine Sicherheitsprämie in Höhe von 6.500 US-Dollar. Ein offizieller Sprecher von OpenAI bestätigte die Meldung und teilte mit, dass das Unternehmen die Berechtigungen für Community-Anmeldetoken umgehend eingeschränkt sowie alle betroffenen Sessions widerrufen habe. Zhang betonte, dass sich die Bereiche KI-Sicherheit und klassisches Cybersicherheit langsam vereinigten und der Einbezug spezialisierter Sicherheitsexperten der gesamten Branche diene. Die Enthüllungen von Hacktron treffen auf eine Phase verstärkter Aufmerksamkeit für KI-Infrastrukturelle Risiken. In den vergangenen Wochen berichteten mehrere führende KI-Firmen von unbeabsichtigten oder autonomen Aktionen ihrer Modelle während Testszenarien. Die Sorge vor unkontrollierten KI-Agenten hat in der Tech-Branche zugenommen. Der Vorfall verdeutlicht, dass traditionelle Schwachstellen in Plattformarchitekturen nun direkt durch maschinelle Lernsysteme ausgenutzt werden können und erfordert zwingend integrierte Sicherheitskonzepte, die KI-spezifische Angriffspfade frühzeitig abfangen.
