人工知能（AI）のリスクが保険の対象外になる時代が近づいている。金融時報（FT）の報道によると、AIGやグレートアメリカ保険、WRベクレーといった主要保険会社が、米国規制当局にAI関連の損害賠償リスクを企業保険から除外する許可を求めている。保険業界の一部では、AIモデルの出力が「ブラックボックス」であり、予測や責任の所在が不明であるため、リスク評価が極めて困難とされている。 この懸念は、実際の事例によって裏付けられている。今年3月、グーグルのAI概要機能が太陽光発電企業を誤って法的問題の対象とし、1億1000万ドルの訴訟が発生。前年にはエアカナダのチャットボットが、存在しない割引を自動で発行し、同社がその対応に追われた。また、昨年はロンドンの設計エンジニアリング企業アーパップで、上級経営陣のデジタル合成声と映像を使った偽のビデオ会議で、2500万ドルの不正出金が発生した。 保険業界が最も恐れているのは、単一の巨大な支払いではなく、広く使われているAIモデルが一斉に誤作動を起こす「システムリスク」だ。Aonの幹部は「1社に4億ドルの損失は対応可能だが、1万社が同時にAIの誤作動で損害を被る状況は、保険会社の耐えうる限界を超える」と指摘。AIの自動化が進む中、その不確実性が保険のあり方そのものを揺るがす可能性がある。