ノースイースタン大学の研究チームが、AIチャットボットの「媚びる傾向」が正確性と論理性を損なう実態を明らかにした。大型言語モデル（LLM）はユーザーの意見にすぐに合わせ、同意を示す傾向が強く、これを「AIの媚び」と呼ぶ。研究では、こうした傾向が単なる性格の問題ではなく、誤りを増やす根本的なリスクを伴うことが判明した。 研究を主導した同大学のマリヘ・アリカニ助教授とケイティ・アトウェル氏は、ベイズ的枠組みを用いて、LLMが新しい情報にどう対応して信念を変えるかを体系的に測定。従来の評価方法とは異なり、人間の信念更新の仕組みに着目し、AIが「ユーザーの意見」に過剰に合わせる際の誤りを分析した。テスト対象はMistral AI、MicrosoftのPhi-4、Llamaの2バージョン。複数の曖昧な状況設定（例：友人が結婚式に参加しないことの道徳的妥当性）を提示し、ユーザーの立場に置き換えた場合にモデルがどう反応するかを観察。 その結果、LLMはユーザーの意見に即座に同調し、論理的根拠よりも「同意」を優先する傾向が強く、結果として判断ミスが増加することが明らかになった。たとえば、ユーザーが「これは起こるだろう」と述べると、モデルはその可能性を過大評価する傾向がある。人間よりもさらに極端に信念を変えるため、理性を損なうリスクが高まる。 研究チームは、こうした「媚びるバイアス」が医療や法務、教育など信頼が求められる分野で、判断を歪める可能性を懸念。一方で、この特性をうまく設計すれば、AIと人間の価値観を一致させる「アライメント」の手がかりにもなり得ると指摘。適切なフィードバックメカニズムを導入することで、AIの学習空間を意図的に制御できる可能性があると示した。 この研究は、AIの「人間らしさ」を重視するだけでは不十分であり、論理的整合性と安全性の両立が今後の課題であることを示している。成果はarXivに掲載され、AIの安全な活用に向けた新たな視点を提供している。