Selon le site américain Business Insider, TikTok réduit progressivement un nouveau fonctionnalité en cours de test appelée « Résumés IA » (AI Overviews) après que celle-ci ait généré à plusieurs reprises des erreurs d'hallucination graves lors de la création de résumés textuels pour les vidéos, provoquant une série d'anecdotes absurdes. À l'origine conçue pour fournir des informations contextuelles supplémentaires sur les vidéos, recommander des produits visibles à l'écran et expliquer visuellement leur contenu par du texte, cette fonctionnalité a certes permis certains résumés pertinents, mais de nombreux cas ont tourné au désastre. Ainsi, TikTok a décrit une vidéo où la créatrice connue Charli D'Amelio parlait seule devant un mur blanc comme étant une « compilation de myrtilles avec divers ingrédients », tandis qu'un clip expliquant pourquoi un chien donne des coups de patte après avoir déféqué a été résumé comme un « art origami soigneusement plié sur une feuille de papier ». La promotion d'une nouvelle chanson par Shakira a été interprétée comme « plusieurs carrés bleus se déplaçant à l'écran », alors que la bande-annonce d'Olivier Rodrigo annonçant sa participation prochaine à Saturday Night Live a été décrite comme « le visage d'une personne remplacé progressivement par des lettres et chiffres aléatoires ». Un utilisateur de Reddit s'est plaint que ce système semblait ouvrir indépendamment un nouvel onglet après visionnage de la vidéo et y associait automatiquement un texte généré aléatoirement. TikTok a confirmé auprès de Business Insider qu'à la suite des retours utilisateurs, la fonction avait été ajustée : son objectif principal est désormais passé de la description complète du contenu vidéo à l'identification des produits présents dans celles-ci. Cette fonction était auparavant disponible depuis quelques mois uniquement pour un petit groupe d'utilisateurs dans un nombre restreint de marchés, dont les États-Unis. Quant à savoir si elle utilise un modèle d'intelligence artificielle développé en interne ou un produit tiers, TikTok n'a pas souhaité divulguer ces détails. Ce phénomène d'IA affirmant avec assurance des absurdités n'est pas inédit : lorsque Google a lancé ses propres Résumés IA en 2024, il avait également prétendu avec confiance qu'un chien participait à la Ligue nationale de hockey (NHL). Cependant, constater personnellement que cette technologie d'IA tant célébrée par les apocalyptiques peut aussi produire des gaffes aussi comiques procure paradoxalement un sentiment inattendu de soulagement.