Google が新たに導入した AI オーバービュー機能が検索で一連の初歩的なミスを起こし、ユーザーを困らせている。TechCrunch の報道によると、「Google」という単語に P がいくつあるかという質問に対し、AI は「2 つ」と答えたが、実際は 1 つしかない。「poop」には r がちょうど 1 つあり、「journalism」には d が 2 つ含まれると主張したが、正しい綴りは journalism であり、さらにアメリカの前大統領の名前のスペルを「trpum」と誤って表記していた。これらのミスは一見滑稽だが、大規模言語モデル（LLM）の本質的な欠陥を露呈している。研究者によれば、LLM は Transformer アーキテクチャに基づき、人間のように文字単位で読むのではなく、テキストを「トークン」（語素単位）に分割して処理する。そのため、AI が「the」と見た場合、それを一つの全体符号として認識しており、その中の t、h、e を個別に把握していないという。東北大学の博士課程学生である Sheridan Feucht氏は、「完璧なトークンの切り分け方など存在しない」と指摘し、アルバータ大学の助教 Matthew Guzdial氏もこの欠陥は短期的には解消できないとの見解を示した。実は、AI が笑われるような失敗をするのは初めてではない。以前にも AI 検索が風刺サイトの内容を引用したり、「石を食べる」「ピザに接着剤を塗る」といった提案を行ったりしていた。これに対して Google は「数え上げは確かに既知の難題であり、修正を進めている」と応じた。しかし、こうした繰り返されるエラーは私たちに、AI は万能ではなく、その出力については依然として慎重な検証が必要であることを思い知らせてくれる。