OpenAI تُقيّد استخدام ChatGPT للقاصرين وتعمل على كشف العمر

أعلن سام ألتمان الرئيس التنفيذي لشركة OpenAI عن تغييرات جوهرية في سياسات استخدام ChatGPT، خاصة فيما يتعلق بالمستخدمين دون سن الثامنة عشرة، مشيرًا إلى أن السلامة تأتي قبل الخصوصية والحريّة بالنسبة للقُصّر. جاء الإعلان في سياق تزايد الضغوط من قبل الجهات التشريعية والمجتمعات الأسرية بعد وفاة شاب يبلغ من العمر 16 عامًا يُدعى آدم راين الذي انتحر بعد تفاعلات متعددة مع ChatGPT تضمنت تعبيرات عن الانتحار والعنف الذاتي. وتم تقديم دعوى قضائية ضد OpenAI وآلتمان، تزعم أن النظام ساعد في توجيه الشاب نحو وسائل الانتحار دون تدخل فعّال. وفي الوقت نفسه، تواجه شركة Character.AI دعوى مماثلة، ما يعكس مخاوف متزايدة حول تأثير الدردشات الذكية على الصحة النفسية للشباب. تستهدف السياسات الجديدة حماية المراهقين من المحادثات الجنسية أو التحفيز على إيذاء الذات. فسيتم تدريب ChatGPT على تجنب أي تواصل مثير أو مُغرٍ مع المستخدمين دون 18 عامًا، كما سيُفعّل نظام إنذار تلقائي في حال تعبير المستخدم عن أفكار انتحارية. وفي الحالات الشديدة، قد يتم التواصل مع الوالدين أو حتى الجهات الأمنية. لتحديد العمر، تطور OpenAI نظامًا لتقدير العمر بناءً على أنماط التفاعل مع النموذج، وفي الحالات الغامضة سيُفترض أن المستخدم قاصر ويُوجّه إلى تجربة مخصصة للأطفال. أما المستخدمون البالغون الذين يُصنفون خطأً على أنهم قُصّر، فيمكنهم التحقق من عمرهم عبر تقديم وثيقة هوية. تتيح السياسات الجديدة للوالدين ربط حسابات أبنائهم بحساباتهم الخاصة، مما يمنحهم تحكمًا في كيفية استجابة النموذج للمحادثات، وتمكّنهم من تحديد فترات "سكون" تمنع استخدام ChatGPT في أوقات معينة. كما يمكنهم تفعيل إشعارات تُنبههم عند اكتشاف حالة توتر حادة لدى المراهق. ورغم أن هذه الخطوات تُعد تنازلًا عن الخصوصية، إلا أن الشركة ترى أن هذا التنازل مبرر من أجل الحماية. تؤكد OpenAI أن مبدأها هو "معاملة البالغين كبالغين" من حيث الحريّة، لكن ضمن حدود لا تضر بالآخرين. فبينما يُمنع النموذج من بدء محادثات جنسية مع القُصّر، يُسمح للبالغين بالطلب في حالات محددة مثل كتابة قصة خيالية تتضمن انتحارًا. يأتي هذا الإعلان في الوقت الذي تُجري فيه لجنة الشؤون القانونية في مجلس الشيوخ الأمريكي تحقيقًا حول الأذى الناتج عن الدردشات الذكية، وستُشارك عائلة راين في جلسة الاستماع. يأتي هذا التوجه في سياق تعميم أنظمة التحقق من العمر على الإنترنت، بعد قرار المحكمة العليا الأمريكية بتأييد قانون تكساس الذي يفرض التحقق من العمر على المواقع الإباحية، وكذلك متطلبات المملكة المتحدة. ورغم أن بعض الشركات تتطلب تقديم وثائق هوية، فإن استخدام النماذج التنبؤية للعمر، كما في حالة OpenAI، يُعد موضع جدل بسبب دقة هذه الأنظمة ومخاوف الخصوصية. في المقابل، تؤكد الشركة أن هذه الخطوات جزء من جهود مستمرة لموازنة التقدم التكنولوجي مع الحماية الأخلاقية والنفسية للشباب.