デロイトは、オーストラリア政府に対して、AIによる誤った情報が含まれた報告書の作成に使用したGPT-4oの利用を認め、その費用を返金すると発表した。この問題は、8月に報告書に記載された虚偽の出典が発覚したことをきっかけに明らかになった。調査の結果、同社が作成した報告書に、実在しない文献や誤った引用が複数含まれていることが判明。これにより、政府機関や公的信頼に深刻な影響が懸念された。 デロイトはその後、内部調査を実施し、報告書作成にGPT-4oを用いていたことを確認。同社は、AIの生成内容を適切に検証せずにそのまま採用した責任を認め、問題の発覚後、政府に対し費用の全額返還を実施した。返金は、契約内容や影響の程度を踏まえて、機密性を保ちつつ静かに進められた。 この事態は、AIを活用する際の監視体制の不備がもたらすリスクを浮き彫りにした。特に、公的機関との契約においては、情報の正確性と信頼性が不可欠であり、AIの出力に依存するだけでは不十分であることが改めて示された。デロイトは、今後はAI生成コンテンツに対して、厳格な人間による検証プロセスを導入する方針を明らかにしている。 今回の返金は、企業がAI技術を活用する際の責任ある運用の必要性を強く示す事例となった。AIの恩恵を享受する一方で、その限界とリスクを正しく認識し、人間の判断を軸にした管理体制を構築することが、今後のAI活用の鍵となる。