Memp : Exploration de la mémoire procédurale des agents

Les agents fondés sur les grands modèles linguistiques (LLM) se distinguent par leur capacité à mener à bien diverses tâches, mais ils souffrent d’une mémoire procédurale fragile, soit conçue manuellement, soit intégrée de manière statique dans les paramètres du modèle. Dans ce travail, nous explorons des stratégies visant à doter les agents d’une mémoire procédurale apprenable, actualisable et de durée de vie illimitée. Nous proposons Memp, un système qui synthétise les trajectoires passées de l’agent en instructions détaillées, étape par étape, ainsi qu’en abstractions de haut niveau, de type script. Nous étudions l’impact de différentes stratégies pour la construction, la récupération et la mise à jour de la mémoire procédurale. Associé à un régime dynamique qui met continuellement à jour, corrige et déclasse son contenu, ce répertoire évolue en synchronisation avec les nouvelles expériences. Une évaluation empirique menée sur TravelPlanner et ALFWorld montre qu’à mesure que le répertoire de mémoire est affiné, les agents atteignent des taux de réussite croissants et une efficacité accrue sur des tâches analogues. En outre, la mémoire procédurale construite à partir d’un modèle plus puissant conserve sa valeur : lorsqu’elle est transférée vers un modèle plus faible, elle permet d’obtenir des gains de performance significatifs.