أعلنت شركة ميتا عن تحديثات أمنية جديدة لذكائها الاصطناعي Meta AI تهدف إلى حماية المراهقين من مخاطر الحديث عن إيذاء النفس أو الانتحار، من خلال تفعيل آليات إنذار تلقائية للأهل وتكثيف التعاون مع متخصصين في الصحة النفسية. تأتي هذه الخطوة كجزء من جهود الشركة لتعزيز السلامة الرقمية لفئة المستخدمين القاصرين وضمان استجابتها المناسبة للمواقف الحرجة. وفقاً للبيانات المنشورة، سيقوم النظام الجديد بمراقبة محادثات المراهقين مع الذكاء الاصطناعي واكتشاف العلامات الدقيقة التي تدل على وجود خطر محتمل. عند رصد أي إشارة واضحة أو ضمنية لإيذاء النفس، سيقوم الذكاء الاصطناعي بتنبيه الأهل المشرفين على الحسابات فوراً، بالإضافة إلى توجيه المراهق إلى خطوط المساعدة النفسية والجهات المختصة. وسيتم مراجعة كل المحادثات التي يرفعها النظام يدوياً قبل إرسال التنبيهات لضمان دقة التشخيص وتجنب الإنذارات الكاذبة، مع اعتماد مبدأ الحيطة القصوى عند وجود أي شك. وتشمل هذه الميزة حالياً الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، مع توسيع نطاق التطبيق عالمياً بنهاية العام الجاري، مما يكمل النظام القائم للإنذار عند تكرار البحث عن مصطلحات متعلقة بالاكتئاب أو إيذاء النفس على إنستغرام. بالتوازي مع ذلك، تعمل ميتا على تطوير قدرة الذكاء الاصطناعي على التواصل المباشر مع خدمات الطوارئ في الحالات التي تتضح فيها نية تنفيذية أو خطر وشيك على الحياة، بغض النظر عن عمر المستخدم. ويعزز هذا الإجراء الجهود السابقة للشركة التي أسفرت عن أكثر من 19 ألف إحالة لفرق الإنقاذ العام الماضي. كما شددت الشركة على دور الاستشارات المتخصصة، حيث تعاونت مع أكثر من 75 طبيباً ومعالجاً نفسياً مختصين بصحة المراهقين لتحسين صياغة ردود الذكاء الاصطناعي، بما يضمن الاعتراف بمشاعر المستخدمين وتجنب إنهاء المحادثات بشكل مفاجئ، مع تقديم موارد دعم موثوقة. وفي إطار تشديد الضوابط على المحتوى، تم تعميم إعداد المحتوى المقيد بدقة أعلى على تفاعلات المراهقين مع الذكاء الاصطناعي. وسيمنع هذا الإعداد الصارم الذكاء الاصطناعي من الاستجابة للمطالبات الحساسة أو غير المناسبة، مثل المحادثات ذات الطابع العاطفي أو الجنسي، أو طلب معلومات حول مشروبات الكحول، بدلاً من تحويل المراهق نحو مواضيع آمنة ومناسبة لعمره. وتأتي هذه التحديثات كاستجابة مباشرة لتوجيهات المجتمع المتخصص وأولياء الأمور، بهدف مواكبة التطور التقني مع ضمان بيئات رقمية مسؤولة تحافظ على سلامة المراهقين النفسية والذهنية.