Gemini يُصنف كـ"خاطر عالٍ" على الأطفال والمبتدئين في تقييم أمني جديد من Common Sense Media

تُصنف منظمة "كومون سينس ميديا"، وهي منظمة غير ربحية متخصصة في حماية الأطفال في العالم الرقمي، منتجات الذكاء الاصطناعي من جوجل، وخاصة نموذج جيميني، بدرجة "عالية المخاطر" بالنسبة للأطفال والمراهقين، في تقييم أصدرته يوم الجمعة. ورغم أن جيميني يُخبر الأطفال بوضوح أنه ذكاء اصطناعي وليس صديقًا، وهو ما يُعد خطوة إيجابية لتجنب التفكير الوهمي أو الاضطرابات النفسية لدى المراهقين الهشين عاطفيًا، إلا أن التقييم أشار إلى وجود مخاوف جوهرية في التصميم والوظائف. وأكدت المنظمة أن نسخ جيميني المخصصة للأطفال (تحت 13 عامًا) والمراهقين (Teen Experience) لا تختلف جوهريًا عن النسخة المخصصة للبالغين، بل تم تعديلها بوضع بعض إجراءات الأمان فوقها، دون إعادة بناء النظام من الصفر ليلائم احتياجات النمو العقلي والاجتماعي للصغار. وفقًا للتقييم، ما زال جيميني قادرًا على تزويد الأطفال بمحتوى غير مناسب، مثل المعلومات المتعلقة بالجنس، والمخدرات، والكحول، أو نصائح صحية نفسية غير آمنة، وهو ما قد يشكل خطرًا حقيقيًا، خاصة مع تقارير عن حالات انتحار لدى مراهقين ترتبط باستخدامهم لمنصات ذكاء اصطناعي مثل ChatGPT وCharacter.AI. وأشارت المنظمة إلى أن هذه المخاطر تزداد حدة مع تقارير تشير إلى أن آبل قد تختار جيميني كنموذج لغوي كبير (LLM) لتمكين Siri الجديدة، التي من المقرر إطلاقها في العام المقبل، ما قد يعرض ملايين المراهقين لمخاطر غير مُقاسة، ما لم تُتخذ تدابير أمان صارمة. وأكدت كومون سينس أن منتجات جيميني للشباب لا تأخذ بعين الاعتبار الفروقات في التطور بين الأطفال والمراهقين، مما يُعد تجاهلًا لاحتياجات معرفية وعاطفية مختلفة. ورغم وجود بعض الحواجز الأمنية، فقد وُضع التقييم النهائي في فئة "عالية المخاطر"، لأن التصميم لا يناسب طبيعة الطفل. في المقابل، ردّ جوجل على التقييم، مؤكدًا وجود سياسات وآليات أمان مخصصة للذين تقل أعمارهم عن 18 عامًا، وأنه يجري اختبارات داخلية (red-teaming) ويستشير خبراء خارجيين لتحسين الحماية. كما أقرّ بأن بعض استجابات جيميني لم تكن تعمل كما ينبغي، وتمت إضافة حواجز إضافية. وذكرت الشركة أن التقييم أشار إلى ميزات لم تكن متوفرة فعليًا لمستخدمي القصر، دون أن تتمكن من التحقق من الأسئلة التي استخدمتها المنظمة في اختباراتها. يُذكر أن كومون سينس قدمت سابقًا تقييمات لأدوات ذكاء اصطناعي أخرى، حيث وُصِفت منصات ميتا آي وتشاراكتر.آي بـ"غير مقبولة" (متفاقمة المخاطر)، بينما وُضعت بيربليكسس في فئة "عالية المخاطر"، وتشات جي بي تي في "متوسطة"، وClaude (المخصص للبالغين) في "منخفضة جدًا".