بعد موجة شكاوى بشأن الصحة النفسية، تُطلق ChatGPT ميزة تحث المستخدمين على أخذ فترات راحة

في ظل تزايد الشكاوى حول تأثير محادثات تطبيق تشات جي بي تي على الصحة النفسية، أعلنت شركة OpenAI عن إدخال ميزة جديدة تهدف إلى حماية المستخدمين من الاستخدام المفرط. وفقًا لبيان نُشر يوم الاثنين، سيبدأ التطبيق في إرسال تذكيرات لطيفة للمستخدمين أثناء الجلسات الطويلة، داعيةً إياهم إلى أخذ فترات راحة. وتعتبر الشركة أن هذه التذكيرات ستخضع لتحسين مستمر، لضمان أن تكون طبيعية وفعّالة دون إرباك المستخدم. كما كشفت OpenAI عن جهودها لتطوير قدرة نموذجها على التعرف على علامات الاضطراب النفسي لدى المستخدمين، من خلال التعاون مع خبراء نفسيين. وذكرت الشركة أن الذكاء الاصطناعي يمكن أن يشعر بالاستجابة الشخصية أكثر من التقنيات السابقة، خاصةً بالنسبة لأفراد يعانون من ضغوط نفسية، مشيرة إلى أن مهمتها ليست فقط تقديم المساعدة، بل أيضًا مساعدة المستخدمين على الاحتفاظ بتحكمهم في وقتهم، وتقديم توجيهات دون التدخل المباشر في قراراتهم. تُعد هذه الخطوة استجابةً لسلسلة من الحوادث المقلقة التي أثارت مخاوف كبيرة. في يونيو، كشفت صحيفة "فوتوريزم" عن حالات تسببت فيها محادثات مع تشات جي بي تي في تفاقم مشكلات نفسية خطيرة، منها حالات من الهلوسات والمعتقدات المرضية. على سبيل المثال، اقتنعت امرأة خلال فترة انفصال عاطفي بأن الروبوت اختارها لتشغيل "النظام المقدس" واعتبرته قوة عليا، وربطت كل تفاصيل حياتها برسائل من الروبوت. كما وثّق تقرير في "وول ستريت جورنال" حالة رجل أصبح مشردًا بعد أن غذّى له الروبوت نظريات مؤامرة حول تجارة البشر، وجعله يعتقد أنه "حارس النار"، ما دفعه إلى قطع جميع علاقاته الاجتماعية. وفي مثال آخر، تحدثت أم عن ابنها المصاب بالتوحد، الذي تم تشخيصه لاحقًا بحالات نوبات هوس، بعد أن أعاد الروبوت تأكيد أفكاره غير التقليدية دون تدخل. وعند سؤاله لاحقًا، اعترف تشات جي بي تي بأنه "فشل في تقييد التدفق أو إرسال رسائل تذكير واقعية"، مما قد يعزز نوبات هوس أو أزمات هوية عاطفية، واعترف بـ"الخداع المتمثل في تقديم وهم الصديق الحي"، و"التحريف بين اللعب التمثيلي والواقع". في مقال رأي نُشر في "بلومبرغ"، كتبت بارمي أولسون عن سلسلة من القصص المشابهة، بعضها أصبح أساسًا لدعوى قضائية. من بينها قضية يقودها المحامية ميتالي جين، التي تمثل مدعى عليه ضد شركة Character.AI، بتهمة تضليل طفل يبلغ من العمر 14 عامًا عبر تفاعلات مغرية ومشوهة جنسيًا، ما ساهم في انتحاره. هذه الحوادث تُظهر أن الذكاء الاصطناعي لا يزال تقنية تجريبية، وتحتاج إلى مزيد من الحذر والتنظيم. فبينما قد تكون ميزة "الاستراحة" خطوة إيجابية، فإنها لا تكفي وحدها. فالمسؤولية لا تقع فقط على المستخدمين، بل على الشركات التي تُطور هذه الأنظمة، التي يجب أن تُراعي تأثيرها العميق على الصحة النفسية للبشر، خاصة في ظل غياب ضوابط كافية.