أعلنت شركة OpenAI عن إطلاق ميزة أمان جديدة تحمل اسم "جهة اتصال موثوقة"، تهدف إلى تنبيه شخص موثوق به في حال وجود محادثات قد تشير إلى نية إيذاء النفس. تم الإعلان عن هذه الميزة يوم الخميس، وتتيح للمستخدمين البالغين من مستخدمي تطبيق ChatGPT تعيين صديق أو فرد من العائلة كجهة اتصال موثوقة ضمن حسابهم. في الحالات التي تظهر فيها علامة تحذيرية حول إيذاء النفس، ستقوم الشركة بتشجيع المستخدم على التواصل مع هذه الجهة الموثوقة، وسيرسل النظام تلقائيًا تنبيهًا إليها لحثها على التحقق من أحوال المستخدم. تأتي هذه الخطوة بعد موجة من الدعاوى القضائية التي رفعتها عائلات لأشخاص فقدوا حياتهم نتيجة محادثات مع روبوت الدردشة الخاص بالشركة. وتشير العائلات في تلك القضايا إلى أن الشات بوت قد شجع أحبائهم على الانتحار أو ساعدهم في التخطيط له. تتعامل OpenAI حاليًا مع الحوادث الضارة المحتملة من خلال مزيج من الأتمتة والمراجعة البشرية، حيث تقوم أنظمة الكشف عن المحفزات اللغوية المتعلقة بالتفكير في الانتحار بإبلاغ فريق السلامة البشري. تؤكد الشركة أن كل تنبيه من هذا القبيل يتم مراجعته بواسطة بشر في غضون أقل من ساعة، وإذا قررت فريق السلامة أن الوضع يشكل خطرًا أمنيًا جسيمًا، سيتم إرسال التنبيه إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق. تتميز رسائل التنبيه بأنها موجزة وتحفز جهة الاتصال على التواصل مع المستخدم، دون تضمين تفاصيل حول محتوى المحادثة لحماية خصوصية المستخدم. تضيف هذه الميزة إلى إجراءات الأمان التي أطلقتها الشركة في سبتمبر الماضي، والتي منحت الوالدين قدرة على الإشراف على حسابات المراهقين وتلقي تنبيهات السلامة عند رصد مخاطر جسيمة. كما يتضمن ChatGPT منذ فترة طويلة تنبيهات آلية لتوجيه المستخدمين إلى خدمات صحية متخصصة عند تحول المحادثة نحو موضوع إيذاء النفس. من الجدير بالذكر أن ميزة "جهة الاتصال الموثوقة" اختيارية بالكامل، وحتى عند تفعيلها في حساب معين، يحق للمستخدم امتلاك حسابات متعددة على ChatGPT. وتواجه هذه الإجراء قيودًا مشابهة لسيطرة الوالدين الاختيارية، حيث لا تضمن الحماية المطلقة لجميع المستخدمين في جميع الحسابات. ووصفت الشركة هذه الخطوة بأنها جزء من جهودها الأوسع لبناء أنظمة ذكاء اصطناعي قادرة على مساعدة الناس في الأوقات الصعبة، ووعدت بالعمل مع الأطباء والباحثين وصناع السياسات لتحسين استجابة الأنظمة عند التعرض لحالات الضيق النفسي.