AutoThink：大模型自主决定何时思考，实现高效问题解决

在中国科学院自动化研究所和鹏城实验室的联合研究中，研究人员发现现有的大模型在面对简单问题时常常表现出“过度思考”的现象。为了解决这一问题，他们开发了一种名为AutoThink的高效推理策略，旨在使大模型能够根据题目的难度自主切换思考模式。 AutoThink的背景 随着大模型的发展，许多模型开始具备“深度思考能力”。例如，DeepSeek-R1系列模型通过特殊的设计，在回答问题前会先进行一系列复杂的推理过程。然而，这种机制在处理简单的数学运算或常识问题时显得过于繁琐，导致资源浪费。以“2+3等于几”为例，模型可能会从自然数的定义开始，一步步验证加法交换律，经过多次试错后才给出答案。这样的“过度思考”不仅增加了计算成本，还降低了模型的响应速度。 AutoThink的技术原理 AutoThink提出了一个简单而有效的方法，通过最小提示干预和多阶段强化学习来解决这一问题。具体来说： 最小提示干预：研究人员设计了一个特殊的“省略号提示”（Ellipsis Prompt），模型在接收到此类提示时会随机切换到不同的思考模式，从而避免固定化的思考方式。 多阶段强化学习：整个过程包括三个阶段的训练： 第一阶段：模型学会在快慢两种思考模式下稳定表现。“快思考”用于解决简单问题，“慢思考”用于处理复杂问题。 第二阶段：优化快慢思考的行为，提高模型在这两种模式下的正确回答率。 第三阶段：精炼快慢思考的思维链输出，确保模型的思考过程更加高效和精准。 通过这些技术手段，AutoThink能让模型根据问题的难易程度自主选择思考模式。对于简单的数学加法，模型可以直接给出答案；而对于复杂的数学问题，模型则会展开详细的推理过程，从而实现“按需思考”。 实验结果与应用前景 研究团队在多个数学基准测试和基础模型（R1-Style）上验证了AutoThink的有效性。实验结果显示，AutoThink不仅显著提升了R1蒸馏基模的性能，还能减少约40%的推理Token消耗。与其他开源模型相比，AutoThink在节省算力的同时保持了较高的准确率。即使在已经进行大量强化学习训练的DeepScaleR模型上，AutoThink仍能额外节省10%的Token消耗。 业内评价与公司背景 业内人士普遍认为，AutoThink提供了一种全新的推理范式，通过简化的提示和多阶段强化学习，大幅提高了大模型在处理简单和复杂问题时的灵活性和效率。这种方法不仅有助于节约计算资源，还能提升用户的体验，使大模型的应用更加广泛和实用。 中国科学院自动化研究所是中国领先的科研机构之一，专注于人工智能、机器学习等领域。此次与鹏城实验室的合作，展示了他们在大模型研究和优化方面的前沿实力。AutoThink已集成至一站式智能科研平台ScienceOne，并将进一步应用于该平台的基础模型S1-Base的训练，推动科学基础大模型的演进方向向更高效、更智能的方向发展。 总之，AutoThink提供了一种简单而有效的方法，帮助大模型更好地管理其思考过程，实现性能和效率的双重提升。这对于未来大模型的实际应用具有重要意义，有望成为推动AI领域发展的关键技术之一。