近日，Meta宣布对其人工智能助手Meta AI实施多项青少年安全保护升级，旨在规范化应对涉及自杀与自残的敏感对话。据悉，当系统依托专家联合开发的识别模型判断青少年对话存在心理危机倾向时，将主动向监护家长发送预警通知。为确保信息准确，所有AI标记记录均须经人工复核后方可触发通知，力求在预警及时性与隐私保护间取得平衡。此外，Meta正着手构建紧急救援联动机制，若对话内容显示用户面临迫在眉睫的生命危险，系统将直接向急救机构转介。 此次技术迭代深度融合了临床心理专家反馈。Meta邀请逾75名青少年心理健康从业者对AI回复进行场景化评审，优化共情话术并强化线下专业资源引导。在内容管控层面，青少年账户默认启用适龄交互模式，AI将自动拦截不当请求；家长还可开启更严格的限制模式以进一步压缩敏感对话空间。目前青少年心理风险预警功能已率先在美、英、澳、加上线，并计划于年底前覆盖全球。该举措标志着Meta在生成式AI伦理治理与青少年数字心理健康干预领域完成关键布局，为高风险场景下的AI安全交互确立了新标准。