HyperAIHyperAI

Command Palette

Search for a command to run...

5 小时前
LLM
Agent

基于6G切换协议的多跳LLM智能体持久潜在记忆

近日,诺基亚慕尼黑研究院研究人员Banerjee等人提出将潜在上下文持久化(ILCP)架构迁移至多跳大语言模型智能体领域,以解决跨节点上下文移交时的冷启动难题。传统多跳智能体在控制权交接时,接收端往往需丢弃发送端的隐藏状态与注意力缓存,仅依赖文本摘要重新构建上下文,造成高昂的计算冗余。ILCP方案通过β-变分自编码器将发送端状态压缩为微型潜在载荷,经传输通道交付后,由门控多层感知机映射为接收端的软提示前缀,实现计算一次、跨跳复用。该机制直接源于作者近期发表于AI4NextG @ ICML 2026的同行评审论文。在维也纳4G与5G联合路测中,该协议彻底消除乒乓切换现象,将切换后预测准确率平均提升5.1个百分点,单次决策延迟稳定在7.7毫秒以内。目前,基于Qwen2.5-7B与PyTorch的Agent端V1架构已开源。团队明确说明,当前性能数据均基于6G无线网络验证,智能体侧量化基准列为后续规划。此项工作旨在验证跨行业架构迁移的可行性,为构建低冗余、高效率的智能体推理基础设施提供新范式。

相关链接