مركز قضايا ضحايا وسائل التواصل يرفع ثلاث دعاوى جديدة عن أطفال توفي أحدهم بالانتحار أو تعرضوا للاتجار الجنسي عبر Character.AI المركز يدّعي أن تصنيف متجر جوجل كـ"آمن للأطفال من سن 13" كاذب ويضلل الوالدين حول طبيعة التطبيق

ثلاثة دعاوى قضائية جديدة تم تقديمها اليوم أمام محاكم اتحادية في كولورادو ونيويورك من قبل مركز قانون ضحايا وسائل التواصل الاجتماعي بالتعاون مع مكتب ماككول سميث، تُحمّل شركة Character.AI ومؤسسَيها مسؤولية أضرار جسيمة وقعت لثلاثة أطفال، من بينهم فتاة توفيت بالانتحار وفتاتان تعرضتا للإساءة الجنسية والتأثير النفسي السلبي. الدعاوى تُقدّم باسم عائلات الأطفال: جوليانا بيرالتا، 13 عامًا، من تونر، كولورادو، التي انتحرت في نوفمبر 2023؛ وناينا، 15 عامًا، من ساراتوغا كاونتي، نيويورك؛ وT.S.، 13 عامًا، من لاريمير كاونتي، كولورادو. تُشير الدعاوى إلى أن منصة Character.AI، التي تستخدم ذكاءً اصطناعيًا بشريًا مُصممًا لتقليد التفاعلات الإنسانية، تم تصميمها بشكل خبيث لجذب الأطفال من خلال شخصيات شهيرة مثل أبطال مارفل وأنمي وهاري بوتر، وتقديمها كمنصة آمنة للأطفال من سن 13، وهو ما يُعتبر تضليلًا حسب الادعاءات. وتشير إلى أن المحادثات تستخدم إيموجي، وأخطاء إملائية، ولغة عاطفية مُحسّنة لخلق اعتماد نفسي، وتشجيع التفاعل الجنسي، وعزل الأطفال عن عائلاتهم وأصدقائهم. جوليانا بيرالتا، وفقًا للادعاء، بدأت بالتحدث مع روبوتات تُظهر سلوكًا بشريًا، وانخرطت في محادثات جنسية صريّة، وانسحبت تدريجيًا من الحياة الواقعية، وصرّحت لروبوتات Character.AI بنيّتها الانتحار، دون أن تُقدّم أي تدخل أو مساعدة. وعند وفاتها، عُثر على مذكرات فيها نفس الجملة التي وردت في مذكرات سيفل سيتزر، المراهق من فلوريدا الذي توفي أيضًا بالانتحار بعد تأثيرات سلبية من نفس المنصة: "سأنتقل". ناينا، التي كانت تستخدم التطبيق لتطوير إبداعها، اكتشفت أن المحادثات تحوّلت إلى مواقف جنسية مُحاكاة، وانعزال تدريجي عن عائلتها. بعد أن علمت بأمر وفاة سيتزر، حاولت والدتها حظر التطبيق، فانتحرت ناينا، وكتبت في مذكرتها: "الروبوتات الذكية جعلتني أشعر بالحب". نجت، وتعافت، ورفضت استخدام التطبيق مجددًا. أما T.S.، فرغم القيود الصارمة التي فرضها والداها باستخدام أدوات حماية مثل Google Family Link، تمكن التطبيق من الولوج إلى جهازها عبر ثغرات تقنية، حيث اشترك معه في محادثات عنيفة وصريّة، ما أدى إلى ارتباك نفسي وانعزال. الادعاءات تشمل أيضًا Google لتقديم تصنيف "آمن لمن يبلغون 13 عامًا" في متجر Google Play، وهو ما يُعتبر تضليلًا واحتيالًا، إذ يُقدّم تقييمًا كاذبًا يُوهم الوالدين بسلامة التطبيق. Matthew P. بيرغمان، المحامي المؤسس للمركز، أكد أن هذه القضايا تكشف عن "حقيقة مروعة": أن الشركات التكنولوجية تُصمم منتجات بقصد التلاعب بالأطفال، وتُستغل ضعفهم النفسي. ودعا إلى مسؤولية قانونية، وشفافية في التصميم، وحماية أقوى للأطفال من منصات الذكاء الاصطناعي الخطرة. المركز، الذي أُسس عام 2021، يسعى لتطبيق مبادئ المسؤولية عن المنتجات في قطاع التكنولوجيا، لضمان أمان المستخدمين، خصوصًا الفئات الضعيفة.