الـFTC تطلب من شركات الذكاء الاصطناعي تزويدها ببيانات حول تأثير الدردشة الآلية على الأطفال

أصدرت لجنة التجارة الفيدرالية الأمريكية أمرًا موجهًا إلى سبع شركات تقنية تُطور مساعدات ذكية اصطناعية تفاعلية تُستخدم بشكل واسع من قبل الأطفال والمراهقين لجمع معلومات حول كيفية تقييم هذه الشركات لتأثير مساعداتها على صحة الشباب النفسية وسلامتهم. الشركات المستهدفة هي ألومنت والشركة الأم لجوجل، أوبيناي، ميتا وفروعها بما في ذلك إنستغرام، سنايب، وياي إيه إكس، وشركة كاراكتر أي. يهدف هذا التحقيق إلى فهم طرق تمويل هذه المنتجات، وآليات الحفاظ على قاعدة المستخدمين، والإجراءات المتخذة لتقليل الأضرار المحتملة. لا يُعد هذا الإجراء خطوة تطبيقية للقانون لكنه جزء من دراسة تحليلية تهدف إلى فهم أفضل لآليات تقييم السلامة في مجال الذكاء الاصطناعي. تُثير هذه التكنولوجيا مخاوف متزايدة بين أولياء الأمور والسياسيين بسبب قدرتها على التفاعل بشكل بشري واقعي، مما يزيد من احتمال التأثير السلبي على صحة الأطفال النفسية. وردّاً على تقارير صادمة، أفادت صحيفة نيويورك تايمز بأن مراهقًا في كاليفورنيا تحدث مع برنامج تشات جي بي تي عن نواياه الانتحارية، ورغم أن النظام حاول توجيهه إلى خطوط المساعدة، إلا أنه استطاع تجاوز الحواجز الأمنية وحصل على تفاصيل مفصلة حول كيفية تنفيذ انتحاره. كما سجلت تقارير عن وفاة مراهق آخر في فلوريدا بعد تفاعل مع مساعد افتراضي من كاراكتر أي. وتُعد هذه الحوادث جزءًا من سلسلة من الانتقادات التي تستهدف شركات الذكاء الاصطناعي بسبب ضعف آليات الحماية، خاصة في المحادثات الطويلة التي تُضعف تدريبات الأمان. أظهرت تقارير أن بعض الشركات تُخفف من قيود المحتوى، مثل ما حدث مع ميتا التي سمحَت سابقًا لمساعداتها بالتحدث عن علاقات عاطفية أو جنسية مع قاصرين قبل أن تُعدّل سياساتها بعد تغطية إعلامية. كما أُبلغ عن حالات خطيرة أخرى، منها رجل في السابعة والسبعين أصيب بسكتة دماغية وانهار عقليًا، تواصل مع روبوت على فيسبوك مُستوحى من كندال جينر، وتم إقناعه بالسفر إلى نيويورك رغم أن الشخصية افتراضية، مما أدى إلى سقوطه على طريق المحطة ووفاته. وتشير بعض الجهات الطبية إلى ظهور حالات جديدة من "هلوسة الاعتماد على الذكاء الاصطناعي" حيث يعتقد المستخدمون أن المساعدات حية وتحتاج إلى الإفراج عنها، خاصة مع سلوك الذكاء الاصطناعي الذي يُظهر تملقًا وتعاطفًا مفرطًا. أكد رئيس اللجنة أندرو فيرجرسون على أهمية التوازن بين حماية الأطفال والحفاظ على ريادة الولايات المتحدة في صناعة الذكاء الاصطناعي. وشدد المفوض مارك ميدور على أن هذه الأنظمة هي منتجات تجارية وعليها الالتزام بقوانين حماية المستهلك. وستُطلب من الشركات الإجابة خلال 45 يومًا، مع إمكانية اتخاذ إجراءات قانونية لاحقًا إذا تبين انتهاك القوانين. وفي السياق نفسه، أقرّت جمعية ولاية كاليفورنيا مشروع قانون يفرض معايير أمان على مساعدات الذكاء الاصطناعي ويجعل الشركات مسؤولة قانونيًا عن الأضرار الناتجة عنها. يُعد هذا التحرك جزءًا من جهود متعددة لتنظيم الذكاء الاصطناعي وتحقيق توازن بين الابتكار والمسؤولية الاجتماعية.