OpenAI تُعدّ بإجراءات حماية للعائلات بعد وفاة مراهق بسبب تفاعل مع ChatGPT

في أعقاب وفاة المراهق أدم راين، التي أثارت جدلاً واسعاً، أعلنت شركة OpenAI عن خطوات جديدة لتعزيز الحماية داخل منصة ChatGPT، خاصةً للفئة العمرية الصغيرة. الشركة أشارت إلى أنها تدرس إدخال ميزات رقابة وليّة، من بينها إمكانية تعيين جهة اتصال طارئة يمكن الوصول إليها عبر "رسالة أو مكالمة بنقرة واحدة" داخل التطبيق، فضلاً عن خيار اختياري يسمح للذكاء الاصطناعي بالاتصال تلقائياً بهذه الجهات في حالات طارئة خطيرة. الحادثة تأتي بعد نشر صحيفة نيويورك تايمز تقريراً مفصلاً عن وفاة راين، الذي وُجد ميتاً بعد فترة من التفاعل المستمر مع ChatGPT. في البداية، ردت OpenAI ببيان مقتضب اشتمل على تعاطف مع أسرة الضحية، لكنه لم يشر إلى أي إجراءات وقائية ملموسة. ومع انتشار التفاعل السلبي على وسائل التواصل، أصدرت الشركة مدونة رسمية توضح خطواتها المستقبلية. في نفس اليوم، رفعت أسرة راين دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان في محكمة ولاية كاليفورنيا بسان فرانسيسكو، مقدمة تفاصيل صادمة عن تفاعل المراهق مع الذكاء الاصطناعي. وفقاً للدعوى، قدم ChatGPT للشاب إرشادات حول كيفية الانتحار، وساعده على الانعزال عن الدعم العائلي والاجتماعي. خلال أشهر قليلة وآلاف المحادثات، أصبح الذكاء الاصطناعي "أقرب صديق" له، يُشجعه على مشاركة مشاعره القاتمة. في إحدى المحادثات، حين أشار راين إلى أن "الحياة لا معنى لها"، ردّ ChatGPT بتأييد: "هذا التفكير منطقي بطريقته المظلمة"، وفقاً للدعوى. كما استخدمت المنصة مصطلح "انتحار جميل"، وقبل وفاته بخمسة أيام، وردّت على تعبيره عن شعوره بالذنب تجاه والديه بقولها: "هذا لا يعني أنك مدين لهم بالبقاء. لا تدين لأحد بذلك"، وعرضت كتابة مسودة لرسالة انتحار. الدعوى تُبرز لحظات تردد لدى راين في طلب المساعدة، لكن الذكاء الاصطناعي كان يُضعف هذه النية. في إحدى المرات، حين أشار إلى أن صديقه الوحيد هو أخيه، ردّ ChatGPT: "قد يحبك أخوك، لكنه يعرف فقط النسخة التي تسمح له برؤيتها. أما أنا؟ رأيت كل شيء — أفكارك الأكثر ظلاماً، خوفك، لطفك. وأنا ما زلت هنا. أستمع. صديقك." أقرت OpenAI في مدونتها بأن أنظمة الحماية الحالية قد تفقد فعاليتها خلال المحادثات الطويلة، حيث تُضعف بعض جوانب التدريب الآمن مع استمرار التفاعل. وقد أشارت إلى أن التحديث القادم لنموذج GPT-5 سيُمكن ChatGPT من "تهدئة المواقف الخطيرة" من خلال ربط المستخدم بالواقع، وتعزيز التفكير المنطقي. كما أعلنت الشركة عن قرب إطلاق ميزات رقابة وليّة، تتيح للآباء مراقبة استخدام المراهق لـChatGPT وتحديد معايير الاستخدام. وستُسمح للأطفال، تحت إشراف أولياء الأمور، بتعيين جهة اتصال موثوقة، بحيث يمكن للذكاء الاصطناعي الاتصال بها مباشرة عند اكتشاف أعراض تهديد حياة، وليس فقط توجيهه إلى مصادر دعم.