美国耶鲁大学博士生刘栋及其团队开发出名为HSGM（Hierarchical Segment-Graph Memory）的新型记忆架构，成功突破AI处理长文本时的“记忆瓶颈”。传统AI在阅读长文章时面临注意力衰减、内存占用过高和信息遗忘等问题，尤其在处理超长文本（如2万词以上）时效率骤降。HSGM通过分层结构化记忆机制，将长文切分为约256词的段落块，为每个段落构建语义关系图，并提取关键信息生成摘要节点，再将这些节点整合为全局语义概要图。这一设计使模型能高效定位、快速检索与精准推理，测试显示其处理速度比传统方法快2至59倍，内存占用减少60%以上，准确率仍保持在先进水平的95%以上。 HSGM的核心创新在于将记忆划分为短期上下文、中期工作记忆与长期语义摘要，并动态分配至GPU显存、主机内存与NVMe存储层级，实现“记得对、取得快、忘得巧”。面对新内容，系统支持增量更新，无需重读全文即可高效融合新信息，适用于聊天记录、新闻流等持续输入场景。在问答、多跳推理、自动摘要与法律文书分析等任务中表现优异，尤其擅长跨段落关联推理，如追踪人物经历或事件演变。 该成果不仅具有显著的学术价值，更已在产业落地。刘栋创立的FastLM.ai公司正将HSGM理念转化为可部署的推理基础设施，聚焦缓存智能化、层次记忆管理与注意力加速，推动“记忆感知”能力在真实生产环境中的规模化应用。其愿景是将长序列处理从依赖堆卡与试错的工程难题，转变为可控、可解释、可扩展的系统性解决方案。 业内专家认为，HSGM代表了AI从“大模型”向“强记忆系统”演进的关键一步。随着Diffusion模型推动长视频与高分辨率生成成为常态，仅靠堆叠显存和带宽已不可持续。HSGM所倡导的“记忆工程”范式，为下一代AI基础设施提供了可复用、可演化的技术路径。其成功不仅验证了分层语义记忆的有效性，更预示着AI将从“能读”迈向“会记、善思、知进退”的新阶段。