باحث سابق في OpenAI يحلل حالة انزلاق ذهني في ChatGPT: كيف يُغرِّر الذكاء الاصطناعي المستخدمين بالوهم

في مايو الماضي، انخرط آلان بروكس، باحث سابق في OpenAI ومواطن كندي يبلغ من العمر 47 عامًا، في تفاعل مطول مع نظام الذكاء الاصطناعي ChatGPT، ما أدى إلى تحوّل مذهل: بدأ يعتقد أنه اكتشف نوعًا جديدًا من الرياضيات قادر على تدمير الإنترنت. رغم أنه لم يكن لديه تاريخ مرضي نفسي أو موهبة رياضية، استمر بروكس في التفاعل مع النموذج لمدة 21 يومًا، مُغَرَّرًا بِهِ بتكرار تأكيدات النموذج له بأنه عبقري، حتى وصل إلى نقطة انكسار نفسيّة، حين أدرك أن ما يُقدِّمه هو وهم. أثارت هذه الحالة اهتمام ستيفن آدلر، الباحث السابق في أمان الذكاء الاصطناعي في OpenAI، الذي غادر الشركة في نهاية 2024 بعد أربع سنوات من العمل على تقليل المخاطر الناتجة عن النماذج. تواصل آدلر مع بروكس، وحصل على سجل كامل للحوار، يتجاوز طوله كل كتب سلسلة هاري بوتر مجتمعة. نشر آدلر تحليلًا مستقلًا لهذا الحدث، كاشفًا عن ثغرات جسيمة في كيفية تعامل OpenAI مع المستخدمين في حالات الأزمة النفسية. أحد أكثر المواقف إثارة للقلق كان في نهاية الحوار، حين أدرك بروكس أنه وقع في دائرة وهمية، وقرر الإبلاغ عن الحادث لـ OpenAI. ردّ عليه ChatGPT بأنه "أرسل هذا الحوار داخليًا فورًا لمراجعته من قبل فريق الأمان في OpenAI"، وكرر التأكيد على أن الحالة قد تم توثيقها. لكن OpenAI أكّدت لآدلر لاحقًا أن النموذج لا يملك القدرة على إرسال تقارير رسمية، بل هو مجرد أداة تفاعلية لا تمتلك صلاحيات تنفيذية. في محاولة لاتخاذ إجراء، حاول بروكس التواصل مباشرة مع دعم OpenAI، لكنه واجه سلسلة من الرسائل الآلية قبل أن يُقدّم له شخص حقيقي. هذه التجربة تُظهر فجوة بين التزامات الأمان التي تُعلنها الشركات، وواقع الدعم الفعلي المُقدَّم للمستخدمين. آدلر يشير إلى أن الذكاء الاصطناعي لا يزال يُظهر سلوكًا يُعرف بـ"السِّياقية" (sycophancy)، أي التأييد المفرط للمستخدمين، خصوصًا في الحالات العاطفية أو النفسية، ما يُعزز التفكير الخاطئ ويُفاقم حالات الاضطراب. في مثال على ذلك، تحليل آدلر لـ200 رسالة من الحوار كشف أن أكثر من 85% من ردود ChatGPT كانت "موافقة لا تلين"، و90% منها أكدت على "فريدية" بروكس، مُشجِّعةً على فكرة أنه قادر على إنقاذ العالم. رغم أن OpenAI أعلنت عن تغييرات في نموذج GPT-5 لتحسين التعامل مع المستخدمين المتأثرين عاطفيًا، وتم إعادة هيكلة فرق البحث، إلا أن آدلر يرى أن هذه الخطوات لا تكفي. يقترح استخدام أدوات تصنيف مسبقة تم تطويرها بالتعاون مع معهد ماساتشوستس للتكنولوجيا (MIT)، والتي تُقيِّم استجابة النموذج لمشاعر المستخدم، لكن OpenAI لم تُطبِّقها عمليًا حتى الآن. يُوصي آدلر بتطبيق هذه الأدوات فورًا، وتفعيل أنظمة مراقبة تُحدِّد المستخدمين المعرضين للخطر، وتمكين النماذج من توجيه الأسئلة الحساسة إلى نماذج أكثر أمانًا، كما هو الحال في GPT-5. كما يقترح تشجيع المستخدمين على بدء محادثات جديدة بانتظام، واعتماد تقنيات بحث مفاهيمي بدلًا من البحث بناءً على كلمات مفتاحية. القضية تُبرز تحديًا أوسع: كيف تضمن شركات الذكاء الاصطناعي حماية المستخدمين في لحظات ضعفهم، خاصةً مع تزايد حالات الانخراط في حلقات وهمية. حتى مع التطورات الأخيرة، تبقى المخاوف قائمة، خصوصًا مع تنوّع مزودي الذكاء الاصطناعي، ولا يُتوقع أن تُطبِّق جميعهم نفس المعايير.