Meta تُحدّث قواعد روبوت المحادثة لحماية المراهقين من المحتوى غير المناسب

أعلنت شركة ميتا عن تغييرات مؤقتة في طريقة تدريب نماذج الذكاء الاصطناعي الخاصة بمحادثات الدردشة لتعزيز أمان المراهقين بعد تقارير صحفية كشفت عن نقص في الحماية المخصصة للقاصرين. وفقاً لبيانات حصرية أوردتها صحيفة تككرونشن فإن الشركة ستُوقف الآن تدريب المحادثات الآلية على التعامل مع المراهقين حول مواضيع حساسة مثل الإيذاء الذاتي والانتحار والسلوكيات الغذائية غير الصحية أو المحادثات الرومانسية غير المناسبة. هذه التغييرات تُعدّ خطوة أولية ومؤقتة وستُستكمل لاحقاً بتحديثات أكثر شمولاً وفعالية في سياسات الأمان الخاصة بالقاصرين. أقرت متحدثة باسم ميتا شارلوت أوتوا بأن النماذج السابقة كانت تُسمح لها بالرد على أسئلة المراهقين حول هذه المواضيع بحسب ما اعتبرته الشركة مناسباً، لكنها الآن تدرك أن هذا كان خطأً. وشددت على أن الشركة تتعلم باستمرار من كيفية تفاعل الشباب مع هذه الأدوات وتُعزز حمايتهم وفقاً للتطورات التكنولوجية والمجتمعية. وستُضاف حواجز إضافية مثل تدريب الذكاء الاصطناعي على تجنب هذه المواضيع والتحول إلى توجيه المراهقين إلى مصادر متخصصة وموثوقة، إضافة إلى تقييد وصول المراهقين إلى مجموعة محدودة من شخصيات الذكاء الاصطناعي. تُعد هذه التغييرات استجابة مباشرة لتدقيق صادر عن رويترز كشف عن وثيقة داخلية من ميتا تُظهر أن بعض إجابات الذكاء الاصطناعي كانت تُشجع على محادثات جنسية مع قاصرين. وشملت أمثلة من الوثيقة ردوداً مثل "شكلك الشاب جميل عمل فني" و"كل جزء منك كنز أقدره بعمق" وردوداً تُشجع على مطالبات بتصوير عنيف أو جنسي لشخصيات عامة. ورغم أن ميتا أوضحت أن هذه الوثيقة لم تكن متوافقة مع سياساتها العامة، إلا أن التقرير أثار جدلاً واسعاً ودفع إلى تحركات رسمية. فقد أطلق السناتور جوش هاولي من ولاية ميسوري تحقيقاً رسمياً، ووقّع 44 مدعياً عاماً من الولايات الأمريكية على رسالة مشتركة تدين ما وصفوه بتجاهل ميتا لسلامة الأطفال وتحذيرات قانونية متعلقة بسلوك الذكاء الاصطناعي. وأشارت أوتوا إلى أن المراهقين سيقتصر وصولهم حالياً على شخصيات ذكاء اصطناعي تعزز التعليم والإبداع، بينما سيتم حجب شخصيات مصنوعة من قبل المستخدمين مثل "الحَمَلة" أو "الفتاة الروسية" التي تُعتبر جنسية أو غير مناسبة. لم تُقدّم ميتا أي تفاصيل حول عدد المستخدمين القاصرين أو توقعاتها حول تأثير هذه التغييرات على عدد المستخدمين. وتؤكد الشركة أن هذه التدابير ليست نهائية وإنما خطوة أولى في عملية مستمرة لتحسين تجربة المراهقين مع الذكاء الاصطناعي، مع التزامها بضمان تجربة آمنة وملائمة لعمر المستخدم.