本文详细介绍如何从零开始构建一个自定义的大型语言模型（LLM）记忆层，解决LLM“无记忆”的核心问题。由于LLM本身是无状态的，每次对话都像与陌生人交谈，无法实现个性化响应。为此，文章基于Mem0架构思想，设计了一套完整的记忆系统，涵盖提取、嵌入、检索与维护四大核心环节。 系统的核心目标是将用户对话中的关键信息转化为可持久化、可检索的原子化事实（factoids），并以向量形式存储在数据库中。首先，通过DSPy框架实现记忆提取：将对话历史作为输入，让LLM自动识别并输出用户偏好、行为、兴趣等独立事实。例如，用户说“我喜欢茶，但其实更喜欢咖啡”，系统可提取出“用户曾喜欢茶”和“用户现在更喜欢咖啡”等独立记忆。 接下来，使用OpenAI的text-embedding-3-small模型将这些事实编码为64维向量，并存入QDrant向量数据库。数据库按用户ID建立索引，支持高效查询与过滤，还可扩展添加类别、时间等元数据，提升检索精准度。 在对话过程中，系统采用ReAct（推理+行动）模式：当LLM判断当前上下文不足时，会主动调用工具，通过向量相似度搜索相关记忆，并将其作为上下文注入当前对话。该过程通过DSPy的工具调用机制实现，仅在需要时才触发检索，避免无效开销。 最后，系统引入记忆维护机制。当LLM决定新增记忆时，另一个代理会判断是“新增”、“更新”、“删除”还是“无操作”。例如，若用户从“喜欢茶”变为“讨厌茶”，系统会自动删除旧记忆并创建新记忆，避免信息冲突。这一过程通过DSPy的ReAct代理实现，支持动态更新与去重。 整个架构强调“工具驱动”与“智能决策”：开发者提供工具与规则，LLM自主决定何时使用、如何使用。这不仅构建了可持续演化的记忆系统，也体现了“上下文工程”在实际应用中的关键价值。 该系统可进一步扩展为图数据库记忆、带标签的元数据检索，或基于文件的存储方案。完整代码已开源，适合开发者深入实践，为构建真正具备“记忆”能力的智能对话系统提供坚实基础。