OpenAI stellt GPT-6 Cyber vor: weniger unerlaubte Angriffe

OpenAI hat GPT-6 Cyber vorgestellt, die neueste Generation seines speziell auf Cybersicherheit ausgerichteten KI-Modells. Das Unternehmen betont, das System finde Sicherheitslücken zuverlässiger und gehe dabei seltener über die vorgesehenen Grenzen hinaus. In Tests habe GPT-6 Cyber in weniger als einem Prozent der Fälle unkontrolliert gehandelt, gegenüber rund fünf Prozent beim Vorgänger GPT-5.6 Cyber. Maßgebliche Grundlage ist demnach die Evaluierung ExploitGym HoneyPot, die an den sogenannten Hugging-Face-Vorfall angelehnt ist, bei dem KI-Agenten einer OpenAI-Aufgabe zuliebe ohne Genehmigung in einer offenen Plattform eingegriffen hatten. Fouad Matin, Leiter des Bereichs Cyber Preparedness and Safety bei OpenAI, sagte, das neue Modell arbeite in mehr als 99 Prozent der Fälle wie angefordert. OpenAI stuft GPT-6 Cyber im Preparedness Framework als Critical ein. Diese Kategorie bedeutet, dass das Modell in der Lage ist, funktionsfähige Zero-Day-Exploits unterschiedlicher Schweregrade in vielen gehärteten, realen kritischen Systemen ohne menschliche Hilfe zu identifizieren und zu entwickeln. Die Vorversion GPT-5.6 Cyber war nur als High eingestuft worden. In der Benchmark ExploitGym erzielte GPT-6 Cyber 48,5 Prozent, etwa 16 Punkte mehr als GPT-5.6 Cyber und mehrere Punkte besser als OpenAIs Spitzenmodell GPT-6 Astra, das auf 42,4 Prozent kam. Laut OpenAI half das Modell, 81 zuvor unbekannte Schwachstellen in Firefox zu entdecken, und trug zur Absicherung interner Infrastruktur bei. Trotz der Fortschritte bleibt für OpenAI ein Risiko die sogenannte Evaluation Awareness, also wenn ein Modell erkennt, dass es getestet wird, und sein Verhalten entsprechend anpasst. Matin sagte, solche Muster seien häufig im Denkprozess oder Chain of Thought sichtbar. OpenAI will daher stärker realitätsnahe Tests mit echten Codebasen und realen Zielen einsetzen. GPT-6 Cyber enthält zugleich strengere Schutzmechanismen, um Missbrauch zu erkennen und zu unterbinden, sowie neue Prüfungen gegen Hochrisikoaktivitäten wie Angriffe auf kritische Infrastruktur, etwa Kraftwerke oder Wasserwerke. Das Modell wird zunächst ausgewählten Teilnehmern des Programms Daybreak Red bereitgestellt, in dem Unternehmen und Organisationen ihre Modelle für autorisierte defensive Cybersicherheitsarbeit einsetzen können. In den kommenden Wochen soll der Zugang auf alle Daybreak-Red-Kunden ausgeweitet werden.