2023年12月、Amazon Web Services（AWS）の一部サービスが一時的にダウンした事故について、AWSは原因を「ユーザーによる誤操作」とし、AIの責任ではないと明言した。この事故は、AWSが提供するAIコード補助ツール「Kiro」の利用中に発生した。Kiroは開発者がコードを自動生成・修正するためのAIアシスタントであり、その機能を活用したユーザーが、誤って重大な設定変更を実行したことが原因とされた。 AWSは公式声明で、「事故の根本原因はAIの不具合ではなく、ユーザーがAIの出力を適切に検証せずに実行した結果、システムに影響が出た」と説明。AIは正確な提案をしたが、その内容を人間が判断し、適切に検証・承認するプロセスが欠けていたことが問題の本質だと指摘した。 この事例は、AIツールの活用において「AIの出力に盲信する」のではなく、人間の監視と責任が不可欠であることを改めて示している。AWSは今後も、AIの利活用を推進しつつ、ユーザー教育やプロセスの強化を通じて、類似事故の防止に努めるとしている。