Tag-basierte Bearbeitung (TAE)
Token-Aware Editing (TAE) wurde im Mai 2025 von einem Forschungsteam der Beihang-Universität vorgeschlagen, und die entsprechenden Forschungsergebnisse wurden in dem Artikel "..." veröffentlicht.Tokenbewusste Bearbeitung interner Aktivierungen für die Ausrichtung großer Sprachmodelle".
TAE nutzt die Ausrichtungsinformationen auf Markerebene im Aktivierungsraum umfassend, um eine überlegene Leistung nach der Intervention zu erzielen. Konkret erstellt das Modul „Mutual Information-guided Graph Aggregation“ (MIG) zunächst einen Leitgraphen mit gegenseitiger Information, um die Aktivierung mithilfe der Informationsinteraktionen der Marker zu verbessern. Dadurch wird die Ausrichtungserkennung optimiert und die Intervention erleichtert. Anschließend erfasst die „Misalignment-aware Adaptive Intervention“ (MAI) umfassend den Grad der Fehlausrichtung auf Markerebene sowohl anhand der Markerdarstellung als auch der Vorhersage, um adaptive Anpassungen der Bearbeitungsintensität vorzunehmen und so die endgültige Ausrichtungsleistung zu verbessern.
KI mit KI entwickeln
Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.