数学家如何破解人工智能黑箱：PNNL探索AI与数学的交汇点

数学家亨利·克文格（Henry Kvinge）在太平洋西北国家实验室（PNNL）的研究表明，数学与人工智能（AI）的结合可以揭开AI的“黑箱”，提高其可信赖性。克文格将二者的联系归结为三个方向，均对利用AI潜力至关重要。 首先，数学帮助理解AI。复杂的AI模型，特别是神经网络，由于其内部机制不透明，常被称为“黑箱”。数学工具可以帮助研究人员解码这些系统，确保AI的决策基于正确的逻辑而不是误导性的推理。克文格在一篇文章中详细阐述了如何利用曲率、形状和对称性等数学概念来分析特定任务的AI模型的准确性。 其次，数学启发AI开发。通过将数学原理编码到AI系统中，可以在保持数据自然学习的前提下，对模型施加约束，从而减少训练时间并节省计算资源。克文格指出，这就像在损失景观中引导模型找到一个相对平坦宽阔的山谷，对应于一个稳健的模型。数学概念如对称性和曲率可以用来开发训练方法，使模型更倾向有利的解决方案。 最后，AI也辅助数学研究。数学家们正在探索如何利用AI解决复杂的数学问题。克文格和他的团队最近展示了一种AI算法能够重新发现代数组合学中的一个难题。这种研究目前还较为少见，因为反向工程深度学习系统的解决方案既费时又需要特殊的专业知识。但这一成果证明了AI在特定数学问题上的有效性，有助于改变传统数学界对AI在纯数学领域应用的怀疑态度。 PNNL 对数学与AI的关系进行了为期四年的投资，项目名为“科学中的人工智能数学推理”（MARS）。成功的初步研究带来了新的挑战，克文格及其团队将在PNNL的新项目“生成式AI：未来的基石”（Generative AI: Foundations for the Future）和其他合作研究中继续探索利用拓扑学、代数和几何解决根本的数据科学问题的方法。 克文格鼓励数学界的同行探索MARS团队整理的一系列适合AI解决的未解数学问题，并将其发布在GitHub上。他认为，数学家应积极参与数据分析，提出更有实际意义的解决方案。通过将数学框架引入设计决策中，同时让学习算法负责执行，数学可以辅助AI系统在处理数据时更加有效。 尽管如此，克文格也提醒道，AI模型有时会捕捉到与数据收集或预处理相关的一些虚假关联，就像是学生找到了应对考试的方法而没有真正学会知识。在这种情况下，仍需要人类介入以纠正这些问题。但他认为，在AI的深入开发和优化过程中，数学将发挥重要作用，这一领域将会继续保持高度活跃。 业内人士评价PNNL在AI数学研究领域的投资是一个重要的发展方向，数学与AI的结合有望解决当前AI系统中存在的许多挑战，提升其可信度和效率。PNNL是美国能源部旗下的领先研究机构之一，专注于解决能源、环境和国家安全等领域的问题，此次对AI数学研究的投资展示了其在未来科技发展中的前瞻性布局。