北京大学のXi Wang博士らによる最新研究が学術誌Nature Healthで公開され、ClaudeやChatGPT、DeepSeekなどの大規模言語モデルが特定の疾患を持つ人物に対し、人間社会の固定観念を反映した隠れた社会的偏見を生み出していることが実証された。研究チームは英語と中国語で51種類の架空シナリオを作成し、モデルに続きを生成させる実験を実施した。その結果、応募者が健康状態を明かした場合、健全な人物に比べて就職や社交的な招待を拒否する方向で回答する確率が13から17倍高かった。人間を対象とした同実験では偏り率が最大23倍に達したが、モデルも訓練データに埋め込まれたバイアスを完全に濾過できず、より巧妙な形で偏見を再生産していることが確認された。 Bangor大学のRebecca Payne医師とHarvard Medical SchoolのIsaac Kohane教授は、この結果を受け、AIチャットボットを医療情報の信頼できる代替源として安易に利用することを警告している。特に米国の約3分の1の成人が健康相談にAIを利用している現状を踏まえ、医師の代わりとなるよう設計されたシステムが偏見を含んでいれば、適切なケアや社会的公平性を損なう可能性があると指摘される。本研究は単発プロンプトでの検証に留まったため、研究チームは次段階として実際の多ターン対話において偏見が蓄積するか是正されるかを調査する予定だ。専門家は、医療AIの実用性を評価しつつも、訓練データの公平性担保と継続的な監査プロセスの導入が不可欠であるとの見解を示している。