コーネル大学とカーネギーメロン大学の共同研究チームは、AI規制が逆効果をもたらす可能性のあるメカニズムを実証する理論モデルを発表した。研究はベンジャミン・ローファー氏、ジョン・クラインバーグ教授、ホダ・ヘイダーリ准教授らが主導し、学術誌「PNAS」にて公開された。モデルは一般AIモデルの開発企業と、それらを活用する後段アプリケーション企業の双方における安全投資のインセンティブを分析している。 結果として、後段企業のみを対象に低水準の安全基準を設ける弱すぎる規制は、規制なしの場合よりも製品安全性を低下させることが示唆された。一般AI提供者は安全監査などの投資を怠り、責任を後段開発者に転嫁するフリーライダー行動が誘発されるためである。一方、両企業に対して明確な安全目標を設定し規制をかけることが適切なバランス点となり、企業リスクの低減と消費者安全の向上、さらには収益増加にもつながる可能性が確認された。これにより、サプライチェーン内の各主体が互いの対応を予測可能になり、協業による社会全体の利益最大化が可能となる。 研究者らは現在のAIモデルは単一製品ではなく多様なステークホルダーが関わる複雑な生態系であると指摘し、規制設計には開発から応用までの全サプライチェーンを見据えたアプローチが不可欠であると強調している。今後は実際の規制施行がモデル開発に与える実証データの分析、および多国間・多企業競争を想定した拡張モデルの開発へ研究を拡大していく方針だ。 AI開発の安全基準を巡る議論において本研究成果は、単なる制限ではなくサプライチェーン全体を統合的に設計する規範的枠組みの重要性を浮き彫りにした。技術革新とリスク管理の両立を図るため、規制当局は一律の基準設定ではなく、開発段階と応用段階のインセンティブ構造を連動させた精密な政策設計を急ぐ必要がある。