FDA提前推出生成式AI工具Elsa，提升科学审查与操作效率

美国食品药品监督管理局（FDA）于本周二提前推出了自己的生成式人工智能工具“Elsa”。Elsa旨在提高FDA工作效率，从科学审查到基础运营都能为员工提供帮助。根据FDA的声明，原计划在6月30日推出，但Elsa不仅提前上线，而且预算低于预期。Elsa的训练数据来源尚未明确披露，但FDA强调并未使用任何受监管行业提交的数据，以保护敏感研究信息。目前，Elsa的信息存储在专为处理机密信息设计的亚马逊网络服务产品GovCloud中。 作为一种语言模型，Elsa能够帮助FDA员工进行阅读、写作和总结工作。此外，Elsa还可以快速总结不良事件、生成非临床应用代码等任务。据FDA透露，Elsa已经开始在多个方面发挥作用，如加速临床协议审查、缩短科学评估所需时间以及识别高优先级检查目标。在5月份的一份新闻稿中，FDA宣布完成了首次AI辅助科学审查，当时的审查人马凯说：“Elsa的能力令人震惊，[它]有望大幅缩短新疗法的审查时间。” 马凯还补充道，“我们需要尊重科学家的时间，减少历史上占用大量审查过程的低效忙活。” 一名科学家金钟柳表示，Elsa可以在几分钟内完成通常需要几天时间的任务。在本周二的发布声明中，FDA首席AI官杰里米·沃尔什说道：“今天标志着FDA进入AI时代的重要时刻，AI不再是遥远的承诺，而是增强和优化每一个员工表现和潜力的动力源泉。”尽管生成式AI确实是一个有用的工具，但它也有缺点。例如，AI可能会生成错误或误导性的信息，即所谓的“幻觉”。这些幻觉不仅出现在像ChatGPT这样的聊天机器人中，也可能出现在联邦机构的AI模型中，造成更大的混乱。IT领域专家指出，AI幻觉通常源于训练数据中的偏见或缺乏事实核查机制。即使拥有这些机制，人类监督仍然是“减少风险和确保联邦数据流集成可靠性”的关键。因此，FDA需要在引入Elsa的同时认真考虑并采取适当措施，防止任何潜在问题的发生。 然而，技术扩展与人员裁减之间的冲突引发了人们的担忧。今年4月初，FDA裁员了3500名员工，其中包括科学家和检查人员（虽然部分裁员随后被撤销）。Elsa的表现如何，还需要时间来验证。但FDA计划随着Elsa的发展，将其功能逐步扩展至全机构，包括数据处理和生成式AI应用，以进一步支持其使命。 业内人士认为，Elsa的成功部署展示了AI技术在提高政府机构效率方面的巨大潜力。但由于AI系统的不完善，如数据偏见和缺乏有效的事实核查机制，导致AI“幻觉”问题日益突出，因此对Elsa的使用仍需谨慎。目前，FDA正面临人员短缺挑战，而这种情况下，依赖AI可能是一把双刃剑，既有可能显著提升工作效率，也增加了出现误差的风险。 FDA是美国负责保护公众健康的重要机构，职责范围涉及药品、食品和医疗设备等多个领域。该机构一直致力于技术创新，以改善其审查流程和决策速度。