X平台试点AI与人类协作生成社区笔记，提升虚假信息核查效率

X平台（前身为Twitter）于推出了“社区笔记”计划，旨在通过允许用户为可能具有误导性的帖子添加上下文笔记来打击虚假信息。例如，用户可以标记AI生成的视频，提醒其他用户该视频并非真实事件。这些笔记由社区成员评分，只有被评为有帮助的笔记才会显示在帖子上。“社区笔记”的成功后来激发了其他平台推出类似项目。 近期，X研究人员发布了一项新模型，将大型学习模型（LLMs，即人工智能系统）纳入“社区笔记”创建流程，但仍由人类决定哪些笔记有用。研究人员表示，AI生成笔记的速度和规模是人类难以匹敌的，这将有助于为更多内容提供上下文，从而提高对抗虚假信息的能力。 新模型的核心在于AI与人类的合作。社区反馈将通过“社区反馈强化学习”（RLCF）机制，不断优化AI笔记的生成质量。具体来说，研究人员提出了六个未来发展方向：(1) 定制化LLM笔记生成；(2) 为人类作者提供AI辅助写作工具；(3) AI协助人类评分者审核笔记；(4) 智能笔记匹配，使已验证的笔记适用于类似的新情境；(5) 改进AI生成内容的核心算法；(6) 建立一个强大且开放的基础设施。 尽管这一新模型有可能显著提升虚假信息审查过程，但也存在一些潜在风险。研究人员指出，AI生成的笔记可能会具有误导性和不准确性，同时还可能使笔记内容过于同质化。此外，还有担忧人类笔记撰写者会因为大量AI生成的笔记而参与度下降，以及AI生成笔记的激增可能会超出人类评分者的处理能力。 为了应对这些挑战，X团队正在考虑多种方法，如加强人类评分者的筛选和认证、定制LLM以及开发高效重复利用已有验证笔记的技术。研究团队的目标是建立一个生态系统，让AI和人类各展所长：AI提供速度和规模，人类则提供细微差别和多样视角，而不是简单地用AI指示用户应该如何思考。 业内人士评价认为，X平台在引入AI的同时保持人类审核的模式，是一种平衡速度与准确性的有效尝试。这种模式不仅有望提高审查效率，还能增强用户的参与感和信任度。X作为全球领先的社交媒体平台之一，其在AI和社区合作领域的创新举措或将成为整个行业的风向标。