Laut einem Bericht des US-amerikanischen Business Insider zieht TikTok derzeit eine im Test befindliche neue Funktion namens „KI-Zusammenfassungen" (AI Overviews) zurück, da diese bei der Generierung von Textzusammenfassungen für Videos häufig schwerwiegende Halluzinationen aufweist und zahlreiche absurde Fehler verursacht hat. Die Funktion sollte ursprünglich zusätzliche Hintergrundinformationen zu Videos liefern, Produkte auf dem Bildschirm empfehlen sowie Bildinhalte durch Texte erklären. Während einige Videos angemessen zusammengefasst wurden, erwiesen sich viele Fälle als katastrophal. So beschrieb TikTok das Video einer bekannten Nutzerin, Charli D'Amelio, die allein vor einer weißen Wand spricht, fälschlicherweise als „Sammlung verschiedener Beeren mit Belag"; ein Video eines Tierbloggerinnen über den Grund dafür, dass Hunde nach dem Kotzen ihre Hinterbeine bewegen, wurde als „kunstvoll gefaltete Origami-Kunst auf einem Blatt Papier" wiedergegeben; Shakiras Werbevideo für ihr neues Lied wurde als „mehrere blaue Quadrate, die sich auf dem Bildschirm bewegen", interpretiert; und Olivia Rodigos Teaser zum bevorstehenden Auftritt in Saturday Night Live wurde irrtümlich als „ein Gesicht, das schrittweise durch zufällige Buchstaben und Zahlen ersetzt wird" beschrieben. Ein Reddit-Nutzer bemängelte sarkastisch, dieser Funktionsmechanismus wirke so, als würde er nach dem Ansehen des Videos einen separaten Tab öffnen und mithilfe eines Zufallsgenerators für Texte eine Beschreibung generieren. TikTok bestätigte gegenüber Business Insider, dass die Funktion nach Eingang von Benutzerfeedback angepasst wurde; der Fokus liegt nun nicht mehr darauf, das gesamte Video wiederzugeben, sondern darin, Produkte innerhalb des Videos zu identifizieren. Die Funktion war zuvor mehrere Monate lang nur in wenigen Märkten wie den USA an eine kleine Gruppe von Nutzern getestet worden. Bezüglich der Frage, ob TikTok ein eigenes KI-Modell oder ein Produkt Dritter verwendet, verweigerte das Unternehmen jede Auskunft. Das Phänomen, dass KI systematisch fundierte Unsinnigkeiten präsentiert, ist keineswegs neu – bereits 2024 behauptete Google beim Start seiner KI-Zusammenfassungen selbstbewusst, ein Hund sei in die NHL-Liga aufgenommen worden. Dennoch wirkt es sowohl überraschend als auch tröstend, direkt miterleben zu können, wie die oft von Apokalypse-Befürwortern hochgelobte KI-Technologie solche lächerlichen Fehltritte begeht.