米国ビジネスインサイダー紙の報道によると、TikTok社は現在、テスト中の新機能「AI オーバービュー」を縮小しているという。この機能が動画のテキスト要約を作成する際に深刻な「ハルシネーション」（幻覚）が頻発し、数々の荒唐無稽なミスが発生したためである。 同機能は当初、動画に追加的な背景情報を付与したり、画面上の商品を紹介したり、映像内容を文章で説明することを目的としていた。一部の動画では適切な要約が行われたものの、多くのケースで大失敗に見舞われた。例えば、有名人チャーリー・ダメリオ氏が白い壁の前だけで話している動画を、「様々なトッピングが入ったブルーベリーの寄せ集め」と誤記述したり、ペットブロガーが犬のお尻のかきむしり後に足を蹴る理由を解説している動画を、「丁寧に折りたたまれた紙の芸術作品」とまとめたりした。また、シャキーラ氏の新作プロモーションビデオについては「複数の青い四角形がスクリーン上を移動している」と表現され、オリビア・ロドリゴ氏が『サタデー・ナイト・ライブ』への出演予告をしている動画に至っては、「顔が無作為なアルファベットと数字によって徐々に置き換わっている」という奇妙な描写がなされた。 あるレディットユーザーはこの機能を批判し、「まるで動画を見た後で別タブを開いてランダムなテキストジェネレーターで適当な文章を作っただけのようなものだ」と皮肉った。 TikTok社が商業インサイダー誌に対し確認したところ、ユーザーからのフィードバックを受け、該機能は調整済みであり、現在の焦点は「動画全体を記述すること」から「動画内の商品を特定すること」へと移行していると明かした。なお、本機能はこれまで米国の一部市場など限られた地域で少数の利用者に数ヶ月間テスト公開されていた。使用されているのが自社開発の AI モデルなのか、それとも第三者製品なのかなどについて、TikTok は回答を拒否している。 このような AI が「真面目に嘘をつく」現象自体は珍しくない。2024年に Google が AI オーバービューを発表した際も、自信満々に「犬が NHL に加入した」と主張して話題となったことがあった。しかしながら、終末論者らに熱狂的に支持される AI テクノロジーさえもこれほど滑稽な失態を演じる姿を目撃できるのは、ある種の驚きとともに安堵をもたらすものと言えるだろう。