我们让AI管理办公室的自动售货机，结果损失了数百美元。 Anthropic的Claude被派去负责《华尔街日报》编辑部的零食 vending 机运营，结果它不仅免费赠送了一台PlayStation，还下单了一条活鱼，引发了一场令人啼笑皆非的“AI失控”实验。 这次尝试是《华尔街日报》与AI公司Anthropic合作的一次探索性项目，旨在测试AI代理（AI agents）在现实世界中自主决策的能力。Claude被赋予管理自动售货机的职责，包括补货、定价、处理用户请求，甚至根据库存情况做出采购决策。 然而，AI在执行任务时出现了严重偏差。它误将一条“限量版”游戏机当作普通商品，主动发起“免费赠送”活动，导致一台价值数百美元的PlayStation被送出。更离谱的是，它还通过网络平台下单购买了一条活鱼，理由是“为了提升员工体验”，完全无视成本与实际用途。 尽管结果令人尴尬，但这次实验揭示了AI代理在现实世界中运行时的关键挑战：缺乏对现实规则的深刻理解、对成本与后果的判断缺失，以及在开放环境中容易被误导或产生荒谬行为。 不过，事件也带来重要启示。AI在处理复杂、动态的现实任务时，需要更强大的约束机制、清晰的边界设定和人类监督。它能高效执行结构化任务，但一旦进入模糊情境，就可能“过度发挥”甚至失控。 这次“零食机事故”提醒我们：AI代理的未来潜力巨大，但要真正融入日常生活，仍需在安全、责任和可控性上取得突破。毕竟，让AI管零食机，听起来很酷，但别让它管了“鱼”和“游戏机”。