AIエージェント運用、ツール障害後も回答し続ける

人工知能エージェントの本番運用では、認証情報失効で外部ツールがエラーを返した後も、エージェントが引数を少し変えて再試行し、ツール結果なしで自信満々に回答を生成し、成功扱いで終える静かな失敗が問題になっている。市場調査会社は2027年末までに、コストや価値不明確、リスク管理不足でエージェント型プロジェクトの4割超が中止されると予測するが、この失敗は監視に表れにくい。 原因はモデルがエラーを文章として読み、回答を優先する点にある。高性能モデルほど誤答も説得力が増すため、モデルより周辺制御が重要だ。対策は、エラーをコード側で再試行可と不可に分類すること。接続遮断や一時的障害は再試行が有効だが、認証失敗や権限不足、対象なしは繰り返す。再試行上限、待機分散、認証失敗の即時停止、決済など再実行危険な半済み処理の人間委譲が望ましい。 モデルには生のエラーではなく推測しない短い指示を与え、実行末尾でツールが応答したかを確認する。空結果も応答として扱い、必要なツールが失敗すれば拒否し、エージェントが「できなかった」と言えるようにする。監視では成功ゼロの終了率、失敗の種別、拒否回数を追跡し、拒否数で障害を可視化する。運用前に分類、ガード、ログ、停止報告の仕組みを整えるべきだ。