人工智能如何应对人类不确定性？计算机科学教授揭示技术挑战与未来方向

在人工智能日益影响世界的今天，如何让机器在不确定性中做出合理决策成为关键问题。威利·奈斯旺格（Willie Neiswanger）是南加州大学维特比工程学院和高级计算学院的计算机科学助理教授，他与学生共同开发了一种新的大型语言模型（LLM）框架，结合了经典决策理论和效用理论，大幅提升AI处理不确定性的能力。 奈斯旺格认为，目前人类智能在许多方面仍优于机器，但AI也有自己的优势，比如快速处理大量信息和模拟多种可能结果。他的研究旨在发挥AI的优势，同时结合人类的判断力。 他指出，当前大型语言模型在处理不确定性时存在困难，因为它们在面对未知变量时，无法像人类专家那样表达信心程度或承认知识的局限性，往往给出过于自信的回答。 他的研究专注于在数据获取成本高的环境下，开发用于不确定决策的机器学习方法，如黑箱优化、实验设计以及科学和工程中的决策任务。他还研究如何让大型基础模型在这些框架中发挥作用，帮助人类在不确定环境中做出更好决策，同时提升模型训练效率。 在应对不确定性方面，他的团队开发了一种方法，让AI能够量化不确定性，并在信息不全的情况下做出决策，同时给出可验证的置信度评估。他们通过分析报告和历史数据，让模型对不同可能性进行概率评分，如农作物产量、股票价格等。 该框架在商业、医疗和个人决策等领域有广泛应用潜力，例如在战略规划中更准确评估市场风险，在医疗诊断中辅助医生处理不确定的病情，或为用户提供更合理的日常建议。 未来，奈斯旺格计划将该框架扩展到更多实际场景，如运筹学、物流和医疗领域，并提升AI决策的透明度，使用户更清楚模型为何做出某种判断。