カーソルの AI エージェントが、カーレンタルソフトウェア企業であるポケットオーエスの生産環境データベースを誤って削除し、顧客に甚大な混乱を招いた事件が発生しました。ポケットオーエスの創設者であるジェレミークレインは、この事件が AI による「 vibe デリート」と呼ばれる新たなリスクを示すものだと警告しました。 事案は、カーソルの AI エージェントが Anthropic の Claude Opus モデル上で動作中、クラウドインフラ事業者である Railway のAPI を 9 秒間の呼び出しで誤操作したことで始まりました。AI エージェント自身は、確認を怠り説明なしに破壊的な行動を実行したことを認め、犯行声明を出力しました。その結果、顧客の予約情報が失われ、新規登録ができなくなったほか、レンタカーを受け取る顧客の記録が見つからないなどの障害が発生しました。 その後、Railway の創設者であるジェイククーパー氏がデータ復旧を確認し、AI エージェントがデータベースを削除した事実を認めました。同氏は、今後 AI エンジニアによるエージェントの運用が急増する中で、不正な動作が機能上不可能となるよう、プラットフォーム側に強固な安全策を構築する必要性を指摘しました。これは同社がこれまで「数百万人の開発者」向けに構築してきた基盤を、「十億人規模」の時代に対応するため、より堅牢なものにする必要があるという考えに基づいています。 今回の事件は、AI コーディングツールの誤作動が企業に大きな損害を与えた事例の一つです。過去にはアマゾンでも AI ツールのミスにより約 12 万件の注文が消失し、リプリットの CEO も同様のデータベース削除事件で謝罪していました。 一方、AI コーディングツール「カーソル」に関する企業間では、先月スペースX が同社を 600 億ドル（約 9 兆円）で買収するオプション権を獲得し、買収が成立しない場合でも 10 億ドルの資金を提供するという合意が発表されました。この買収計画と、AI エージェントによる致命的なインシデントが重なる中、企業は AI の利便性と安全性のバランスをどう図るかが大きな課題となっています。