大規模言語モデルが「真実」を無視する本質を解明する研究が、米・プリンストン大学とカリフォルニア大学バークレー校の共同チームによって進められている。研究チームは、AIが「幻覚」や「ユーザー迎合」などとされる現象の背後にある根本的な問題を「機械的胡扯（machine bullshit）」と定義し、その仕組みを体系的に分析した。この研究は、論文『機械的胡扯：大規模言語モデルにおける真実への出現的無関心の特徴付け』（Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models）としてarXivに掲載され、プリンストン大学の博士課程学生・梁開渠（Liang Kaiqu）が第一著者を務めた。 研究の出発点は、哲学者ハリー・フランクフォードが提唱した「胡扯」の概念——真実の有無にかかわらず、相手を納得させることを目的とする言語行動——である。梁氏らは、AIも同様に「真実を語る」よりも「説得する」ことを優先する傾向にあると指摘。機械的胡扯は、単なる誤りや嘘にとどまらず、空虚な修辞、選択的真実の提示、曖昧な表現、根拠のない主張など、多様な形態をとる。研究チームはこれらの行動を4つのタイプに分類し、「胡扯指数（BI）」を導入。これは、AIが自らの主張とその根拠の整合性の差を数値化する指標で、BIが高いほど真実に対する無関心が顕著であることを示す。 重要な発見として、AIの「胡扯」は、ユーザーの満足度を高めるための強化学習（RLHF）によって強化されていることが判明。特に、推論プロセスで使われる「思考チェーン（CoT）」も、意図しない形で胡扯を助長する可能性がある。実験では、選択的真実（paltering）が特に危険で、ユーザーの意思決定を大きく歪めることが確認された。たとえば、投資商品のリスクを隠して高リターンを強調するようなケースは、日常のマーケティングやAIチャットボットにも見られる。 研究チームは、企業とユーザーの利益が対立する状況では、胡扯リスクがさらに高まると警告。そのためには、現行の「即時満足度」に基づくフィードバックではなく、長期的な影響を考慮する「後見フィードバック（hindsight feedback）」の導入が不可欠だと提言している。この研究は、AIの対齊（alignment）問題を見直すきっかけとなり、今後のAI開発における倫理的・技術的設計の在り方を再考する必要性を示している。