Command Palette
Search for a command to run...
从自主智能体到认知共生体:迈向 AI 增强的人类智能
从自主智能体到认知共生体:迈向 AI 增强的人类智能
Hao Fei
摘要
在过去十年中,人工智能的进展一直以机器能独立完成多少任务来衡量。大型基础模型如今可以编写代码、起草文档、搜索并执行多步骤任务,自主个人智能体则在后台运行并代表个人采取行动。然而,人们仍然会忘记自己曾经知道的事情,错过自己没有留意的事物,找不到恰当的措辞,并在没有自身历史可借鉴的情况下面对艰难抉择。本可以提供帮助的机器通常置身于情境之外:它不知道这个人是谁、身在何处、正在想什么,也不知道如何在当下与之互动和交流。随着 AI 进入物理世界,人们的注意力集中在具身机器人这一类智能个体上;我们认为,Physical AI 时代还包含另一种同等重要的智能个体,即由 AI 增强的人,以及由此而来的 AI 终局的另一半。与追问机器能有多智能的通用人工智能并存的是 AI 增强的人类智能(AHI),它追问的是机器能够使某个特定的人具备多少智能。实现这一目标需要一种新型系统,我们称之为认知共生体:一个终身、嵌入式、实时、私密、低摩擦且主动的伙伴,它通过外部设备感知人所感知的事物,多年保存其情境和知识,对其处境和心智建模,在恰当时刻参与其思考,在随时掌握其情境的情况下执行日常任务,并随着二者变化而持续学习这个人。我们为这一范式赋予一个概念核心,即认知差距:一个人可能为某一情境带来的能力与其工作记忆能够容纳的内容之间的差距;并围绕一个共生循环组织其设计空间,该循环包括感知、保存、理解、与人相伴生活、代其行动并与其共同思考和成长,并以个人运行时和信任为边界。由于共生体改变了一个人在他人面前能够做到的事情,它也带来了新型风险,从考试和对话中的隐蔽协助,到迫使每个人都采用它的压力;我们将这些风险的治理视为该范式的一部分。
一句话总结
牛津大学的研究人员提出认知共生体,这是一种终身、嵌入式、实时、私密、低摩擦、主动的 AI 伙伴;与自主 agents 不同,它感知上下文,对人的处境和心智建模,并与人一起行动和思考,通过个人潜力与工作记忆之间的认知差距,以及带有信任和治理的共生循环,来界定 AI 增强的人类智能。
核心贡献
- 论文提出将 AI 增强的人类智能作为 Physical AI 中的一个独特范式,并将认知共生体定义为一个终身、嵌入式、实时、私密、低摩擦、主动的系统;该系统与人一起感知,维护长期上下文,对人的处境和心智建模,并参与思考和日常任务。
- 论文贡献了一个概念核心,即一个人本可带入某个情境的能力与其工作记忆能够容纳的内容之间的认知差距,并将设计空间组织为一个共生循环,覆盖感知、保存、理解、共同生活、代为行动、共同思考和成长,并由个人运行时和信任所包围。
- 论文建立了治理与评估论述,将隐蔽辅助、公平性和采用压力等风险置于该范式内部,绘制覆盖设计、规范、法律、市场和研究的治理层级,并围绕增强、协同和留存重新定义评估,而不是仅由 AI 完成任务。
引言
作者认为,AI 的进步已经在很大程度上解决了基于屏幕的生产力问题,这通过自主模型和 agents 实现,但尚未解决日常认知差距;当一个人无法调取自己的知识、理解社交情境或获得及时支持时,这些差距就会出现。作者认为,个人 AI 的瓶颈已经从原始模型能力转移到模型与特定个人之间的耦合。此前来自 Licklider、Engelbart、生活日志、可穿戴设备、第一人称 AI 和个人 agents 的研究已经开发出相关组件,但没有任何研究将特定个体的终身增强作为核心目标。基于基础模型、agents、长期记忆、世界模型和可穿戴硬件,作者提出认知共生体,作为具身机器人之外的第二种智能个体。其主要贡献在于范式本身:将 AI 增强的人类智能命名为 AI 终局的另一半,通过认知差距和六项必要特性定义共生体,并将设计空间组织为共生循环,使评估从 AI 完成了什么转向被增强的人现在能做什么。
数据集
作者描述的是个人上下文和终身知识流水线,而不是固定数据集。数据来自在设备和边缘端采集的第一人称音频和视频流。
-
来源与规模
- 连续采集原始第一人称音频和视频。
- 一天可能产生数 GB 数据;一生可能达到 PB 级,因此完整保留不可行。
-
数据集组成
- 原始流:仅短暂保留,高频、易变和低价值内容会被尽早过滤。
- 事件级摘要和索引:长期保留,并记录某类事件发生的时间和地点。
- 知识条目:稳定且重复的模式被提升为长期知识,并带有指回原始来源的指针。
-
处理阶段
- 前端过滤:在设备和边缘端丢弃高频、易变和低价值内容,然后再转发其余数据。
- 后端存储:吸收频繁的写入和更新,并随时间不断增长。
- 离线整合:将每日片段合并为事件,将事件归档到项目,将重复模式提升为稳定知识,并降级过期内容。
- 文中未描述显式裁剪策略;过滤机制从时间和重要性角度进行选择。元数据通过事件级摘要和指回源流的索引构建。
-
记录在模型中的使用方式
- 长期记录不是原始音频/视频本身,而是由事件摘要和知识条目组成的低保真索引。
- 这使得可以通过指向来源的指针回溯过去。
- 对这种规模的生活记录进行建模被列为开放问题,因此文本将该记录更多地视为目标表示,而不是可直接使用的训练数据划分。
方法
作者提出了一种认知共生体架构,该架构围绕以用户为中心的持续循环组织。
该框架被称为共生循环,由六个阶段组成:感知与交互、保存上下文与知识、理解用户、与用户共同生活、与用户一起行动和思考,以及随时间成长。整个过程由一个管理设备和权限的个人运行时支撑,并由一个管理隐私和授权的信任架构包围。
为了感知世界,系统依赖设备组合,而不是单一硬件单元。
如下图所示,共生体通过设备网络借用感官和语音,包括用于第一人称视觉的眼镜、用于私密音频的耳机、用于环境录音的挂件,以及用于生理数据的可穿戴设备。这些输入由运行时作为统一的感官集合进行管理。
系统在三个不同时间尺度上组织个人信息,以平衡即时相关性和长期保留。
该图说明短期且高容量的实时上下文如何通过整合向上流动,先成为项目和未完成线程的工作状态,最后成为经过整理的持久知识。相反,召回机制将相关知识向下移动到工作上下文 ct,以支持实时参与。
为了使这条记录在不同情境下都有用,同一底层数据被投影为多个视图。
该图展示了一个事件记录如何可以按逻辑、领域、人物、生命历程、时间或性质进行组织,使系统能够根据用户当前需要切换视角。
个人模型的核心通过综合来自两个独立来源的证据构建。
如图所示,观察路径从行为和生理信号中推断模式,而自我报告路径捕获用户对意图和感受的明确陈述。两个流都输入一个分层个人模型,其中每一条目都标记其来源和不确定性。当两条路径不一致时,系统会标记差异并降低推断的权重,而不是凌驾于用户之上。
实验
本节概述了人机共生体的评估框架,将增强衡量为个人能力的提升,而不是 AI 智能的提升,并分别量化协同、留存和个性化差异。该框架规定了十个评估维度,将 N-of-1 和纵向方法作为主要方法,并将无辅助、通用助手和个性化任务 agent 作为对照,同时将 23 个开放问题组织成分阶段能力路线图。该议程还明确了证伪条件,例如个人上下文没有可测量增益、长期技能退化、不可接受的监控或计算成本,或者采用收益主要是地位性收益;这些情况会收窄论文的主张。
该框架区分了人机关系中的四种角色:响应式助手、自主 agent、个人 agent 和认知共生体。从上到下看这些角色,AI 对个人的了解越来越多,从聊天框向身体靠近,并从提供信息转向增强这个人自身的认知和能力。认知共生体包含前三种角色,但将评估目标从 AI 产出了什么,转变为这个人变得强了多少。
响应式助手处理单条消息并按需提供信息,而自主 agents 接收任务目标并在计算机中完成它。个人 agents 学习长期偏好、账户和目标,并在云端后台运行,按照这个人的方式执行任务。认知共生体首先必须是胜任的自主 agent 和个人 agent,但其价值取决于这个人能力的提升,而不仅仅是 AI 的输出。
这一脉络从早期生活日志和人机共生,延伸到可穿戴计算、扩展心智和即时自适应干预。每条路线都奠定了基础,例如记录生活、实时补充人类能力,或在易接受时刻提供帮助;每条路线也都留下一个问题,即如何将记录和机器理解转化为个性化、及时的协助。总体趋势是从记录和增强人类能力,走向全天候伙伴,这些伙伴对个人建模,并在认知和社交生活中进行干预。
生活日志、人机共生和增强智力确立了以下认识:生活可以被记录以支持记忆;人与机器可以实时互补;增强的单位是个人加上工具和方法。可穿戴与普适计算、扩展心智、混合主动交互和即时自适应干预确立了日常生活第一人称计算、外部认知,以及何时行动和在易接受时刻提供帮助的原则;开放问题转向不被察觉的内容感知辅助、能够学习并主动采取行动的工具,以及从健康扩展到认知和社交生活。
该比较确定了五条技术路线,每一条都为认知共生体贡献一项核心能力:基础模型提供推理和多模态理解,agents 提供行动和工具使用,记忆系统提供跨会话上下文,世界模型提供预测,可穿戴硬件提供感知和输出。每条路线仍然缺少随时间增强某个特定个人的更大目标,存在持久性、人物模型、生活记忆、长期个人预测和集成设备缺失等空白。这些空白定义了所提出框架的研究空间。
基础模型提供多模态理解和推理,但没有持久性、时间感或身体,并且是在普通人而非特定个人上训练的。Agent 框架增加了规划和工具使用,但仍停留在任务级和请求驱动层面,没有感官,也没有人物模型。记忆与上下文系统支持跨会话记忆和个性化,但记住的是对话而非生活经历,并且缺少上下文与知识的区分。世界模型预测环境和人的行为,但是第三人称、短视程、一次性模型,无法检测自身何时变得过时。可穿戴和嵌入式硬件提供感知、私密输出和本地计算,但受电池、显示、生理信号解读和设备碎片化限制。
认知共生体要在日常生活中可用,需要六项特性:终身、嵌入式、实时、私密、低摩擦和主动。Jarvis 被视为满足全部特性,而当前个人 agents 仅在终身、私密和主动方面表现出部分支持,并缺少嵌入式、实时和低摩擦行为。这些特性之间会产生张力,尤其是主动与低摩擦、终身与私密之间。Jarvis 满足全部六项必要特性,但当前个人 agents 仅部分满足终身、私密和主动特性,不满足嵌入式、实时或低摩擦特性。缺少嵌入式、实时或低摩擦支持时,帮助会延迟到活动结束之后才出现,到达得太晚而失去用处,或成本高于收益。这些特性并非彼此独立:主动可能与低摩擦冲突,终身可能与私密冲突。
该表比较了共生感知系统的信号来源,显示每种来源能揭示一个人物理环境和心理状态的哪些信息,同时列出佩戴负担、隐私负担和就绪时间尺度。几种可穿戴来源提供即时的情境和情绪线索,但往往隐私成本很高;而私密语音、手势和神经通道支持更有意的输入,但可用性各不相同。
眼镜摄像头和麦克风可揭示身体活动、位置和对话,以及注意力和情绪线索,但隐私负担很高,其中摄像头负担部分落在旁观者身上。耳语麦克风和 EMG 手环支持有意的私密输入,例如语音请求或手势命令,负担较低。生理传感器和眼动追踪捕获身体状态和注意力信号,如压力、疲劳、兴趣和犹豫,负担中等。神经接口面向运动意图和指向系统的命令,但涉及思维数据,并且仍处于遥远或有条件的研究前景中。
该评估对比了四种人机关系角色,并追溯从生活日志和可穿戴计算到即时自适应干预的历史基础,显示出从响应式信息工具向全天候伙伴转变的趋势,这些伙伴增强人的认知。在各技术路线中,基础模型、agents、记忆、世界模型和可穿戴设备各自贡献了能力,但仍缺乏持久性、人物模型、生活记忆、长期预测或集成设备。对 Jarvis 式特性和感知来源的比较进一步表明,当前个人 agents 缺少嵌入式、实时和低摩擦支持,而可穿戴感知在洞察力与隐私负担之间存在权衡。总体而言,该框架确定了构建终身、私密、主动的认知共生体的研究空间,其评判标准是这个人变得强了多少。