AI評価と信頼構築を問う

近日、ハーバード大学 Berkman Klein Center 主催のパネルディスカッションにおいて、人工知能（AI）の社会実装とガバナンスに関する議論が行われた。司会を務めた同センターの Alex Pascal 氏は、AI が社会をどう向上させ人々に奉仕すべきかという根本的な問いを投げかけた。 ディスカッションでは、AI の二面性とその評価・規制方法が焦点となった。Digital Trust Council の Jeff Dunn 氏は、AI が疾患治療という恩恵をもたらす一方で生体兵器の開発といった危険性も内包する表裏一体の道具であると指摘し、安易な対応の限界を説いた。ハーバードビジネススクールの Amit Goldenberg 准教授は、AI を基礎的な支援ツールから人格を持つ自律型エージェントまでを含む連続体として位置づけ、各機能に応じて適切な使用用途を見極める必要性を強調。その上で、人間中心の設計が不可欠であり、相互作用の設計基準は人間のウェルビーイングの向上に寄与するか否かで決まるべきだと述べた。 最近の自律型 AI エージェントによるサイバー攻撃事例が相次ぐ中、AI システムの信頼性確保と評価基準の確立が喫緊の課題となっている。Hugging Face の Avijit Ghosh 主導研究者は、現状がベンチマーク値の誇示に終始する時代にあると批判。真の評価にはシステム動作と人間への影響の両軸に基づく測定が必要だと主張した。また、評価プロセスを専門家や大企業に限定的に委ねるトップダウン型のアプローチには限界があると警鐘を鳴らし、一般市民がバグ報告や評価に参加できるボトムアップ型の枠組みの構築を提案した。 Ghosh 氏は、企業が報告された課題を一定期間内に修正した場合に法的責任を軽減するなどの政策的インセンティブを導入することで、開発企業の動機と社会の期待を整合させると指摘。Dunn 氏も、検証や監査を伴わない評価は単なる広報に過ぎないと強調し、公衆参加型の透明性ある評価体制の構築が、AI の健全な発展と社会への統合に不可欠であると結論付けた。