HyperAIHyperAI

Command Palette

Search for a command to run...

AI智能体测试能否在生命末期代为决策

面对老龄化社会中家庭规模缩小与临终医疗决策真空的矛盾,新加坡科技设计大学助理教授Kenny Choo及其团队研发了人工智能代理ACPAgent,旨在协助完成预先医疗规划。该成果已提交至2026年CHI人机交互学术会议。研究通过四轮工作坊招募15名参与者进行压力测试。参与者需先陈述个人偏好,随后与AI推荐方案进行比对。数据显示,参与者与AI决策的一致率达86.7%。然而,研究团队明确指出,高一致性并不等同于系统完全成功,可能掩盖了自动化偏见或模型对个体价值观的隐性引导。研究揭示出作者身份模糊风险,即AI提供的表述可能反向塑造用户的真实意愿。为此,团队提出AI应定位为强化人类意愿的倡导者,而非完全替代决策的代理。研究者强调,该系统的实际部署亟需透明的推理机制、完善的法律认可框架、严格的数据保护标准以及与国家病历系统的深度整合。尽管当前测试场景较为简化且为一次性评估,但ACPAgent为高主观性医疗决策的人机协作模式提供了关键实证,有望在未来缓解末期照护中的决策困境。

相关链接