AI検出スタートアップのGPTZeroが、世界的なAI学会であるNeurIPS 2024に採択された4,841本の論文を調査した結果、51本の論文に計100件の「架空の引用」が確認された。これは、AI生成技術の誤用が学術界の信頼性に影響を与えている可能性を示す深刻な事例だ。NeurIPSは機械学習・人工知能分野で最も権威のある学会の一つであり、論文の採択は研究者のキャリアにとって大きな価値を持つ。 GPTZeroは、AIが生成した引用が実際に存在しないものであることを確認した。ただし、論文全体の引用数は数千に上るため、100件という数字は統計的に大きな影響とは言えない。また、引用の誤りは論文の研究内容そのものを無効にするわけではない。NeurIPSも、一部の引用がAIによって誤って生成されたとしても、研究の本質は正当であるとコメントしている。 しかし、引用は研究者の影響力や貢献度を示す「学術通貨」として機能しており、架空の引用が増えることでその信頼性が低下する。さらに、NeurIPSは論文の審査を複数の専門家が行い、AIによるハルシネーションを特定するよう指示しているが、膨大な論文数に加え、AIによる「論文の洪水」が審査体制を逼迫させている実態がある。 GPTZeroは、この調査の目的は「AIによる誤りがいかに日常的に入り込むか」を実証することであり、特に2025年5月に発表された「AI学会の審査危機」に関する論文と照らし合わせて、学術界全体の体制の限界を指摘している。 最も皮肉なのは、世界トップのAI研究者たちが自身の論文の細部までAIに頼っているにもかかわらず、基本的な事実チェックを怠っていることだ。自身が引用した論文の内容を理解しているはずの研究者が、AIの出力に頼るという状況は、一般の利用者にとってのリスクを象徴している。結局のところ、AIの信頼性を担保するのは、技術ではなく、人間の責任感と注意深さである。