微软首席安全官警示AI治理紧迫性:人工智能或将重塑人类存在方式
微软首席科学官埃里克·霍夫蒂兹(Eric Horvitz)在斯坦福大学商学院应用人工智能倡议活动中发表演讲,强调当前人工智能时代将带来人类存在轨迹的深刻变革。他指出,AI的影响远不止技术迭代,更将重塑社会结构与人类生活方式,其深远影响可能需要数十年才能完全显现。 霍夫蒂兹以蒸汽机和电力的普及为例,说明新技术的全面融入社会往往需要长期调整。尽管AI发展迅猛,但其在商业与社会中的落地却面临“适应性错配”——技术进步速度远超制度与文化调整。他预测,未来20年仍将处于快速变革期,而今天正是这一进程的起点。 在对话中,霍夫蒂兹与商学院院长莎拉·苏勒聚焦AI对真实性的冲击,特别是深度伪造技术带来的信任危机。他长期致力于开发内容溯源技术,如通过加密“数字印章”验证信息来源。但他也强调,技术手段只是部分解决方案,还需防范验证工具被滥用,例如被用来质疑真实内容的可信度。他引用微软研究指出,必须“红队测试”这些系统,防止其本身成为新的风险源。 尽管挑战重重,霍夫蒂兹对AI在生物医学领域的前景充满信心。他预测,这一代人有望见证AI在阿尔茨海默病、渐冻症等神经退行性疾病治疗上的重大突破,甚至实现有效干预或长期管理。 面对学生关于AI治理的提问,霍夫蒂兹指出,AI安全已不能仅由模型开发者负责。他比喻称,大型AI公司未来将如电力公司一样,无法对所有下游应用的安全性负责。真正的安全必须建立在全社会协同治理之上。 在医疗AI方面,他强调模型需具备跨机构、跨人群的通用性,避免因数据偏差导致在不同医院失效。他提醒,不能只看平均性能,而必须关注其在特定群体和本地数据上的实际表现。 霍夫蒂兹还强调,即便在自动化时代,人类的导师角色仍不可替代。他坚信,随着AI承担更多常规认知任务,人类在情感关怀、创造力与人际互动方面的价值将愈发凸显。 与会学生普遍认为,这场演讲打破了硅谷常见的“AI末日论”叙事。有人表示,看到AI在癌症研究和医疗健康中的实际应用,令人充满希望。这场对话展现出一种更具人文关怀的AI未来图景。
