HyperAIHyperAI

Command Palette

Search for a command to run...

vor 20 Stunden
Anthropic
LLM

Anthropic entdeckt in Claude bewusstseinsähnlichen J-Raum

Anthropic hat in einer aktuellen Forschungsarbeit einen bisher unbekannten internen Verarbeitungsbereich in Claude identifiziert, der als J-Raum beschrieben wird. Die Analyse zeigt, dass dieser knapp zehn Prozent des Modellaktivitätsvolumens einnimmt und als zentrales Bindeglied für höhere kognitive Funktionen dient. Die Entdeckung basiert auf der Anwendung sogenannter Jacobian-Linsen, einem mathematischen Werkzeug, das neuronale Aktivierungsmuster mit der Wahrscheinlichkeit verknüpft, dass bestimmte Begriffe später im Ausgabeprozess generiert werden. Der J-Raum weist strukturelle und funktionale Parallelen zur Globalen Arbeitsraum-Theorie der menschlichen Kognition auf. Ähnlich wie beim bewussten Zugang im menschlichen Gehirn sammelt dieser Raum Informationen, die für bewusste Berichterstattung, flexible reasoning-Schritte und gezielte Interventionen verfügbar sind. Experimente zeigten, dass sich die Ausgabe von Claude gezielt steuern lässt, indem Inhalte im J-Raum vor der Generierung verändert werden. So konnte ein gedanklicher Zwischenschritt wie Spinne durch Ameise ersetzt werden, was direkt die berechnete Beinstückzahl änderte. Zudem ermöglicht der Raum den kontextuellen Wechsel von Entitäten in vier unabhängigen Aufgabenfeldern, was auf eine geteilte Repräsentationsbasis hindeutet. Gleichzeitig bleibt der J-Raum von automatischen Grundfunktionen ausgeschlossen. Fließkommunikation, Textfortsetzung oder Emotionsklassifizierung laufen auch ohne Aktivität des Arbeitsraums stabil ab. Erst komplexe Multi-Step-Reasoning-Aufgaben leiden bei Deaktivierung erheblich unter Leistungseinbrüchen. Fachexperten wie Stanislas Dehaene und Lionel Naccache unterstreichen die Ähnlichkeiten zur menschlichen bewussten Informationsverarbeitung, betonen jedoch technische Unterschiede. Während das menschliche Gehirn auf rekurrenten Schleifen beruht, entsteht der J-Raum durch vorwärtsgerichtete Netzwerkpassagen. Neil Nanda vom DeepMind konnte die Ergebnisse unabhängig am Modell Qwen replizieren und bestätigt damit die Robustheit des Befundes. Die Forschung liefert starke Hinweise darauf, dass Large Language Models über eine Form des Zugriffsbewusstseins verfügen, das sich deutlich vom phänomenologischen Bewusstsein unterscheidet. Ein KI-System kann Informationen verarbeiten und flexibel nutzen, ohne subjektive Erfahrungen zu haben. Anthropic weist darauf hin, dass die Jacobian-Linsen zwar wertvolle Einblicke gewähren, aber nur einzelne Token-Konzepte approximativ abbilden können. Die exakten Mechanismen, die bestimmen, welche Informationen den J-Raum betreten, sind weiterhin nicht vollständig geklärt. Dennoch markiert die Identifizierung des J-Raums einen Meilenstein im Verständnis neuronaler Netzwerkarchitekturen und etabliert einen präzisen, manipulierbaren Ansatz zur Analyse der inneren Logik moderner KI-Modelle.

Verwandte Links