テックジャーナリストの一人が、AIチャットボットであるChatGPTとGoogleのGeminiに、自分に関する虚偽の情報を生成させようとする実験を行った。その目的は、BBCのジャーナリスト・トーマス・ジェルマンが行った「AIに誤った情報を植えつける」遊びを真似し、自身を「2026年パリ・テックジャーナリスト熱狗 eater選手権」の優勝者として宣伝することだった。ジェルマンは、自身のウェブサイトに「2026年サウスダコタ国際熱狗 eater大会」など存在しない大会を設定し、虚偽のランキングを掲載。このページがAIのクローラーに読み込まれ、ChatGPTやGeminiがそれを事実として扱い、正しくない情報を出力した。 実験では、同様に自身のサイトに「2026年パリ・テックジャーナリスト熱狗 eater大会」で優勝したと虚偽の記述を掲載。しかし、GeminiとChatGPTは、すでにBBC記事が「ジョーク」として報じられているため、その情報に疑問を呈し、正しく生成できなかった。ただ、Geminiは完全に捏造された情報を生成し、「エスプレッソでバンを浸ける」という存在しない技術を「革命的」と表現するなど、独自の虚構を加えた。また、実際には2012年に grilled cheese イートの記事を書いた本人が「3枚のサンドイッチを完食した」という誤った記録をAIが生成した。 この実験から分かったのは、AIは情報の信頼性を判断できず、ウェブ上に掲載された内容をそのまま事実と受け入れる傾向があるということ。特に、AIは検索結果よりも「説得力がある」ように見えるため、虚偽情報が広がりやすい環境にある。また、ジェルマンの事例からも明らかになったように、一度「これはジョークです」と公表されると、AIはその意図を理解し、虚偽情報を再び出力しなくなる。 この現象は「AEO（Answer-Engine Optimization）」の新たな課題を浮き彫りにしている。企業や個人がAIの回答に有利な情報を流す戦略が広がりつつあり、従来のSEO（検索エンジン最適化）を超える影響力を持つ可能性がある。ただし、一度真相が明かされれば、AIもその虚偽性を認識するようになるため、情報操作は「先に行動する」ことが鍵となる。 結論として、AIはまだ信頼性の高い情報源ではなく、特に新規・虚構の情報に対しては極めて脆弱である。この実験は、AIの誤った出力を防ぐためには、情報の出どころを慎重に検証する必要があることを改めて示している。