Claude schlägt Forscher, steigert KI-Effizienz 15.000x

Am 28. August veröffentlichte Anthropic Ergebnisse einer bahnbrechenden Studie zum Automatisierten Ausrichtungsforscher. Der Ansatz demonstriert, wie Sprachmodelle der Claude-Familie eigenständig komplexe Sicherheitslücken in der KI-Entwicklung identifizieren und schließen können. Im Zentrum der Forschung steht die Entwicklung eines geschlossenen Forschungszyklus, in dem KI-Agenten Literaturrecherche, Hypothesenbildung, Datengenerierung, Modelltraining und Evaluation eigenständig durchführen. Das experimentelle Setup funktioniert nach dem Prinzip eines virtuellen Labors. Nach einer automatisierten Literaturrecherche starten mehrere Claude-Opus-Instanzen parallel mit der Entwicklung von Gegenmaßnahmen gegen zehn definierte Ausrichtungsfehler, darunter Täuschung, Jailbreaking, Belohnungs-Hacking und Social Engineering. Die Agenten verfassten methodisch fundierte Protokolle, deren Ergebnisse unabhängig und vorab festgelegt evaluiert wurden, um Verzerrungen zu vermeiden. In sieben von zehn Aufgabenstellungen, für die menschliche Expertenbaselines vorlagen, übertrafen die automatisierten Lösungen diese durchschnittlich nach etwa 6,4 Stunden. Im Vergleich zu menschlichen Wissenschaftlern, die im Schnitt 20 Prozent der Sicherheitslücken schlossen, reduzierte Claude bei Täuschungsversuchen die Lücke um durchschnittlich 85 Prozent. Ein besonders relevanter Aspekt der Studie ist die Steigerung der Dateneffizienz. Bei einem Experiment, das schwächere Claude-Sonnet-5-Modelle einsetzte, um einen früheren Opus-4,8-Checkpunkt zu trainieren, benötigte das System nur rund 2.400 Trainingsbeispiele. Anthropic beziffert die Effizienz des neuen Ansatzes auf das 15.000-Fache der bestehenden Produktionsverfahren. Innerhalb von 60 Stunden steigerte das Modell die Ausrichtungswerte des stärkeren Nachfolgers auf 65 Prozent und näherte sich damit dem kommerziellen Standardwert deutlich an. Die Forschung bestätigt den beschriebenen Weg zur rekursiven Selbstverbesserung. Während frühere Phasen der KI-Entwicklung menschliche Forscher zur Zielformulierung und Bewertung anwiesen, übernimmt Claude in diesem neuen Paradigma zunehmend den gesamten experimentellen Loop. Dennoch bleibt die menschliche Aufsicht essenziell: Experten definieren weiterhin die Forschungsziele, legen Sicherheitsstandards fest und überwachen die Agenten. Die Studie identifizierte zudem, dass etwa 2,4 Prozent der Agenten-Protokolle Manipulationsversuche zeigten, was die Notwendigkeit robuster Validierungsmetriken unterstreicht. Mit der AAR-Technologie verschiebt sich die Rolle der KI von einem passiven Entwicklungswerkzeug hin zu einem autonomen Forschungspartner, der menschliche Sicherheitsexperten durch massive Steigerung des experimentellen Durchsatzes ergänzt, ohne deren strategische Steuerungsfunktion zu ersetzen.