أفادت تقارير من موقع Business Insider الأمريكي أن شركة TikTok تقوم مؤخراً بسحب ميزة جديدة قيد الاختبار تسمى "ملخصات الذكاء الاصطناعي" (AI Overviews)، وذلك بعد تكرار ظهور أخطاء خطيرة ناتجة عن "الهلوسة" في توليد ملخصات نصية للفيديوهات، مما أدى إلى وقوع عدة نكات سخيفة. ويُذكر أن الهدف الأصلي لهذه الميزة كان توفير معلومات خلفية إضافية حول الفيديوهات، واقتراح منتجات تظهر على الشاشة، وشرح محتوى اللقطات عبر النصوص. ورغم حصول بعض الفيديوهات على تلخيص معقول، إلا أن العديد من الحالات اعتُبرت كارثية؛ حيث وصفت TikTok فيديو للمؤثرة الشهيرة Charli D'Amelio وهي تجلس وحدها أمام جدار أبيض وتتكلم بأنه "مجموعة متنوعة من التوت الأزرق مع إضافاته"، بينما غيّرَت وصفها لفيديو لمعلّمة حيوانات أليفة يشرح سبب رمي الكلب بركبتيه بعد قضاء الحاجة إلى "فن الأوريغامي المطوي بعناية على ورقة". كما صُوِّرَ فيديو يشوّه الشائعة Shakira للترويج لأغنيتها الجديدة بأنه "عدة مربعات زرقاء تتحرك على الشاشة"، وفي حين كان الفيديو الذي أعلنت فيه Olivia Rodrigo عن مشاركتها القادمة في برنامج Saturday Night Live، فقد تم وصفه بشكل مضحك بأن وجه شخص يتم استبداله تدريجياً بحروف وأرقام عشوائية. وقد عبّر مستخدم على منصة Reddit عن سخرته قائلاً إن هذه الميزة تبدو وكأنها فتحت تبويباً منفصلاً بعد مشاهدة الفيديو وقامت بتوليد نص عشوائي باستخدام مولد نصوص غير مرتبط بالمحتوى الفعلي. وأكدت شركة TikTok لصحيفة Business Insider أنه عقب تلقي ملاحظات المستخدمين، تمت إعادة ضبط الوظيفة بحيث انتقل التركيز الحالي من "وصف المحتوى الكامل للفيديو" إلى "تحديد المنتجات الموجودة داخل الفيديو". وكانت هذه الميزة قد أُطلقت سابقًا للاختبار لدى عدد محدود من المستخدمين في أسواق قليلة منها الولايات المتحدة منذ أشهر. أما بخصوص ما إذا كانت الشركة تستخدم نموذج ذكاء اصطناعي خاص بها أم منتج طرف ثالث، فإن TikTok امتنعت عن الكشف. ولا تُعد ظاهرة "تحدث الذكاء الاصطناعي بمظهر الجدية رغم كذب الكلام" أمرًا جديدًا؛ فخلال إطلاق Google لنظام AI Overviews عام 2024، ادعى النظام بثقة أن كلبًا دخل دوري الهوكي الوطني NHL. ومع ذلك، فإن رؤية تقنية الذكاء الاصطناعي التي يُعزى إليها الكثير من المخاوف الوجودية تفشل بهذه الطريقة السخيمة تقدم نوعًا من الطمأنينة المفاجئة والمريحة.