تُظهر بيانات من OpenAI أن ما يقرب من مليون مستخدم يُجري محادثات حساسة حول الانتحار مع تطبيق ChatGPT أسبوعيًا، في ظل تزايد الاعتماد على الذكاء الاصطناعي كمصدر للدعم النفسي. ورغم أن هذه المحادثات تُعد نادرة نسبيًا مقارنة بحجم المستخدمين المُسجّلين، إلا أن تكرارها يُعد مؤشرًا على الدور المتزايد للذكاء الاصطناعي في تلبية احتياجات الدعم النفسي، خصوصًا في ظل محدودية الموارد المتاحة في القطاع الصحي. وأشارت OpenAI إلى أن هذه المحادثات تُعد من بين أبرز التحديات التي تواجه نماذج الذكاء الاصطناعي، خصوصًا من حيث القدرة على التعرف على علامات الخطر وتقديم استجابة مناسبة. ورغم أن ChatGPT مُزوّد بآليات اكتشاف مُسبقة للكثير من المحتويات الحساسة، فإن التحدي يكمن في التمييز بين المخاوف التصورية والانتحار الفعلي، وضمان توجيه المستخدمين إلى مصادر دعم فعّالة. وأكدت الشركة أن نماذجها تُشغّل بروتوكولات تدخل تلقائيّة عند اكتشاف تعبيرات تشير إلى نية انتحارية، حيث يتم إرسال رسالة تحذيرية للمستخدم تُشجّعه على التواصل مع خطوط المساعدة النفسية، مثل خطوط الدعم العاطفي المحلية أو الدولية. كما يتم توجيه المستخدمين إلى موارد موثوقة، مثل منظمات الصحة النفسية، مع الحفاظ على خصوصية المحادثة قدر الإمكان. يُذكر أن هذه الأرقام تعكس فقط التفاعل مع المحادثات التي تم التعرف عليها تلقائيًا، وقد تكون هناك حالات لم تُكتشف بسبب طبيعة التعبيرات أو استخدام كلمات غير مباشرة. وتشير التقديرات إلى أن عدد المستخدمين النشطين لـ ChatGPT يتجاوز المليار شهريًا، ما يجعل كل محادثة حساسة تمثل تحدّيًا كبيرًا من حيث الجودة والسرعة في الاستجابة. من جهتها، أشارت خبراء الصحة النفسية إلى أن استخدام الذكاء الاصطناعي كأداة أولية للدعم قد يكون مفيدًا في حالات الطوارئ، لكنه لا يمكن أن يحل محل التدخل البشري، خاصة في الحالات المعقدة. وحذّرت من احتمال تضليل المستخدمين إذا اعتمدوه كمصدر وحيد للعلاج، مُشيرة إلى ضرورة تكامل هذه الأدوات مع خدمات نفسية مهنية. تُعد هذه الظاهرة جزءًا من تحوّل أعمق في كيفية تفاعل الناس مع التكنولوجيا، حيث يلجأ الأفراد إلى الذكاء الاصطناعي ليس فقط للبحث عن المعلومات، بل أيضًا للتعبير عن مشاعرهم، والبحث عن شعور بالاستماع والتفهم. وسط هذا التغير، تواجه الشركات مثل OpenAI ضغوطًا متزايدة لتحسين قدرات نماذجها على التفاعل مع القضايا النفسية، مع الحفاظ على المعايير الأخلاقية والشفافية.