13日前
Memp:エージェントの手続き記憶の探求
Runnan Fang, Yuan Liang, Xiaobin Wang, Jialong Wu, Shuofei Qiao, et al

要約
大規模言語モデル(LLM)に基づくエージェントは多様なタスクにおいて優れた性能を発揮する一方で、手動で設計されたものや静的パラメータに根ざした脆い手続き的記憶に悩まされている。本研究では、学習可能で更新可能かつ生涯にわたる手続き的記憶をエージェントに付与するための戦略を検討する。我々は、Mempという手法を提案する。この手法は、過去のエージェントの経路を、細分化されたステップ単位の指示と、上位レベルのスクリプト的な抽象化の両方に凝縮する。さらに、手続き的記憶の構築(Build)、取得(Retrieval)、更新(Update)に関する異なる戦略がもたらす影響を検証する。動的かつ継続的な更新・修正・廃棄を実施する運用体制と組み合わせることで、この記憶リポジトリは新たな経験に合わせて常に進化し、同期する。TravelPlannerおよびALFWorldにおける実証評価の結果、記憶リポジトリが洗練されるにつれて、エージェントは類似のタスクにおいて着実に高い成功率とより高い効率を達成することが明らかになった。さらに、より強力なモデルから構築された手続き的記憶はその価値を保持する。弱いモデルへその記憶を移行することにより、顕著な性能向上が得られることが確認された。