人工智能工具在论文撰写、政策文本生成等方面展现出强大能力，但同时也存在忽视关键视角、制造虚假信息甚至虚构参考文献等风险。正如《自然》杂志2025年10月21日刊文所指出的，这些“幻觉”问题已引发科学界对AI安全性的深切关注。 作为爱丁堡纳皮尔大学的学者，萨姆·伊利英沃思在来信中强调，必须投入足够时间确保人工智能的安全性。他提醒我们，尽管AI能提升科研效率，但若缺乏审慎监管与伦理考量，其错误输出可能损害学术诚信，误导政策制定，甚至影响公众认知。 当前，AI在科研中的应用日益广泛，但其背后的数据偏见、逻辑漏洞和不可靠输出仍不容忽视。尤其在学术出版领域，AI生成内容若未经严格核查，可能助长低质量或虚假研究的传播。因此，建立更完善的AI使用规范、加强人工审核机制、推动透明化与可追溯性，已成为当务之急。 伊利英沃思呼吁科研共同体、期刊编辑、教育机构和政策制定者共同行动，不仅关注AI的“能做什么”，更要思考“该做什么”——在拥抱技术进步的同时，坚守科学严谨与伦理底线。唯有如此，才能真正实现AI赋能科研的长远价值。