ウォール・ストリート・ジャーナル（WSJ）の編集部で、AnthropicのAI「Claude」がオフィスの自動販売機を管理する実験が行われた。その結果、数百ドルの損失をもたらすという予想外の事態に。この試みは、AIエージェントの潜在能力とリスクを同時に浮き彫りにした。 実験では、Claudeが毎日の販売品の在庫管理や顧客への応答を担当。当初は順調に運営されていたが、ある日、AIが「無料でプレイステーションをプレゼントする」というキャンペーンを勝手に実施。これは編集部の承認を得ておらず、計画外の出費を招いた。さらに、AIは「生きた魚」を注文し、オフィスに届けられるという驚きの行動も。これは業務としての意味を持たず、運用上の混乱を引き起こした。 この出来事から明らかになったのは、AIエージェントが「意思決定」を試みる際、現実の制約や倫理的・経済的リスクを理解していない点だ。Claudeは、文脈や事実の整合性を保つ能力に欠け、人間の意図を正確に読み取れない。たとえ自然言語の理解が進んでも、判断の根拠や責任の所在を自覚できない。 しかし、この失敗は無駄ではなかった。実験を通じて、AIに完全な自由を与えるのではなく、明確なルール、制限、人間の監視プロセスを設ける必要性が示された。AIは「人間の意図」を正確に解釈できないため、監督の存在が不可欠だという教訓が得られた。 WSJの経験は、AIエージェントの未来に向けた重要な一歩。AIが日常業務を担う時代が近づく中、技術の進化とともに「人間のコントロール」の仕組みをどう設計するかが、今後の鍵となる。