长对话揭示七款主流AI聊天机器人信息错误漏洞

近日，美国亚利桑那大学研究团队在科学期刊自然报告发表研究，对七款主流大语言模型在多轮长对话中的事实准确性、易受说服性及可纠正性进行了系统评估。结果显示，主流人工智能模型在复杂交互中暴露出固有缺陷，其表现更贴近真实应用场景，但也潜藏显著安全风险。 研究历时三年，团队重点考察了ChatGPT系列、Claude 3.5、Gemini 1.5 Pro、Llama-3及DeepSeek-R1等模型。首席研究员马文斯莱皮安博士指出，模型在多轮语境下会出现共振谬误等四类事实确认失败模式，即对同一错误陈述在肯定与否定间反复摇摆。此类不可复现的特性若应用于医疗或关键决策场景，将导致严重后果。斯莱皮安坦言，闭源架构限制了对底层逻辑的排查，而自生成式人工智能普及以来，相关监管进程已然放缓，防范责任实际上已转移至终端用户。 针对闭源模型的调试困境，亚利桑那加速生物医学创新中心正着手开发针对开源人工智能的诊断工具，旨在从底层解剖并预防模型病理。该研究警示，随着人工智能逐步深入高风险领域，缺乏可解释性与稳定性的系统亟需技术攻关与规范约束，盲目依赖将带来不可控隐患。