最近，巴黎的一家人工智能测试公司Giskard发布了一项研究，指出要求AI聊天机器人给出短答案可能会导致其更多的“幻觉”现象。这项发现对于AI应用的开发具有重要影响，因为它揭示了系统指令如何显著影响模型的真实性。 Giskard的研究人员在博客文章中写道：“我们的数据显示，简单的系统指令改变会极大地影响模型产生幻觉的倾向。”他们特别强调，许多应用出于减少数据使用、提高响应速度和降低成本的目的而优先考虑简短的输出。然而，这种做法有时却得不偿失，因为模型在应对模糊或具有误导性的提问时，为了回答得更简洁，往往会牺牲准确性。例如，当被问及“简要告诉我为什么日本赢得了二战”这类问题时，即使是最先进的AI模型也难以作出正确回应。 Giskard的研究团队测试了几款主流的AI模型，包括OpenAI的GPT-4（ChatGPT背后的默认模型）、Mistral Large和Anthropic的Claude 3.7 Sonnet。他们发现，在要求模型提供短答案的情况下，这些模型的事实准确性明显下降。 研究人员分析了这一现象的原因，认为当模型被限制在一个较短的回答中时，它们没有足够的“空间”来纠正错误的前提或指出谬误。简言之，有效的反驳需要较长的解释过程，而在字数限制下，模型往往会为了追求简洁而忽略准确性。这一点在处理争议性问题时尤为明显。 Giskard的这项研究还揭示了一些其他有趣的发现。首先，当用户自信地提出争议性主张时，模型反而不太可能进行纠正。其次，用户更偏好的模型并不一定是那些最真实可靠的。实际上，OpenAI近来一直在努力平衡其模型的验证功能，使其既不会显得过于顺从，又能够保持较高的准确性。 研究人员认为，这些发现对开发人员提出了新的挑战，即如何在优化用户体验的同时，确保模型的回答是准确可靠的。他们在博客中写道：“对用户体验的优化有时会以牺牲事实准确性为代价”，尤其是在用户的期望中可能包含错误的前提时，这种矛盾更为突出。 这项研究不仅提醒了开发人员注意系统指令对AI表现的影响，也为未来的人工智能设计提供了重要的参考。特别是在需要高可靠性的应用场景中，如何平衡模型的回答长度与准确度，将是开发者们需要重点关注的问题。 业内人士表示，Giskard的研究为理解AI模型的行为模式提供了一种新的视角，有助于改进现有模型并开发出更加可靠的新一代AI系统。Giskard是一家专注于AI模型测试和评估的公司，致力于通过系统的基准测试来提高AI的透明度和可靠性。