에이전트 메모리는 지능형 에이전트가 작업 실행 중에 정보를 저장, 검색 및 활용하는 메커니즘을 의미하며, 장기적인 상호작용 기능을 구축하는 데 중요한 요소입니다. 이 개념은 대규모 언어 모델 기반 에이전트 시스템의 개발과 함께 점차 부상해 왔습니다.

에이전트 메모리는 에이전트가 여러 작업과 다양한 상호 작용 단계에 걸쳐 정보를 저장하고 검색할 수 있도록 하여, 실행 중에 과거 경험을 지속적으로 활용하고 맥락적 일관성을 유지할 수 있도록 하는 것을 목표로 합니다.

이 메커니즘은 일반적으로 대규모 언어 모델을 기반으로 구축되며, 메모리를 단기 메모리와 장기 메모리 계층으로 나눕니다. 컨텍스트 윈도우에 의존하는 단기 메모리는 현재 작업에서 즉각적인 추론 및 의사 결정에 사용되고, 장기 메모리는 외부 시스템에 저장되었다가 필요할 때 동적으로 검색되어 모델에 주입됩니다. 이러한 계층적 메모리 구조를 통해 에이전트는 현재 입력을 처리할 뿐만 아니라 과거 정보를 결합하여 지속적인 추론을 수행할 수 있으므로 작업 일관성, 의사 결정 정확도 및 복잡한 시나리오에 대한 적응성을 향상시킬 수 있습니다.