Command Palette
Search for a command to run...
タグ認識編集(TAE)
トークン認識編集(TAE)は、2025年5月に北京航空航天大学の研究チームによって提案され、関連する研究成果が論文「...」に掲載されました。大規模言語モデルのアライメントのための内部活性化のトークンを考慮した編集”。
TAEは、活性化空間におけるマーカーレベルのアライメント情報を最大限に活用し、介入後の優れたパフォーマンスを実現します。具体的には、Mutual Information-guided Graph Aggregation(MIG)モジュールがまず相互情報量ガイドグラフを構築し、マーカー間の情報相互作用を利用して活性化を強化します。これにより、アライメント検出が向上し、介入が容易になります。次に、Misalignment-aware Adaptive Intervention(MAI)が、マーカー表現と予測の両方からマーカーレベルのミスアライメントの程度を包括的に認識し、編集強度の適応的な調整を誘導することで、最終的なアライメントパフォーマンスを向上させます。