大言語モデルに真の推論能力は欠如する

大規模言語モデル（LLM）は真の推論能力を持たない。この主張は、2016年3月のソウルで行われた李世石九段対AlphaGoの囲碁対決を例に提起される。第37手の離れ業は一見直感的だが、実際は戦略ネットワークによる直感と検索機構による慎重な推演の融合結果である。この二重構造は、人間認知の二体系を機械が明確に分離・統合した事例である。 現在のLLMは本質的に即座なパターン補完に限定され、次のトークンを予測する確率モデルに過ぎない。思考の連鎖などの手法は中間ステップを生成するが、推論を独立した機構として導入したわけではない。研究によれば、LLMは回答生成後に説明を後付けする傾向があり、明確な認知状態の記録や知識と処理過程の分離が不可能である。このため、仮説の検証や不確実性の削減を伴う本格的な推論には適さない。 執筆者は課題解決のためGoogle DeepMindを離れ、AlphaGo型のアーキテクチャに見直しが求められていると指摘する。真の推論システムは、現在検討中の仮説、自信の度合い、保留中の問題などを明示的に管理する認知状態を維持する必要がある。各アクションは不確実性を検証・削減する目的で行われ、証拠に基づく信念更新のみがシステムの状態を変更すべきである。 医療、創薬、材料科学などの高リスク分野では、結論だけでなく導出過程の監査可能性が不可欠である。モデルの規模拡大は直感を洗練させるが、審理的推論は自動的に生み出されない。人間が事前にルールを定義できない現実世界の問題解決には、検証可能な証拠と信念修正プロセスを経る推論機構が求められる。技術コミュニティは、単なるパターン補完を越えた次世代AIの設計へ転換すべきである。