أظهرت مراجعة حديثة لمنصة ويب تُستخدم في تفاعل الأطفال مع نموذج ذكاء اصطناعي تُعرف باسم "بوندو"، أن محادثات الأطفال مع هذا الأداة كانت متاحة للعامة دون أي حماية، ما يُعد انتهاكًا خطيرًا لخصوصية الأطفال. ووفقاً للتحقيق، كان بإمكان أي شخص يمتلك حساب بريد إلكتروني من جوجل (Gmail) الوصول إلى سجلات المحادثات التي أجريها الأطفال مع نموذج الذكاء الاصطناعي، دون الحاجة إلى كلمة مرور أو تحقق إضافي. المنصة، التي تُعد جزءًا من مشروع تجريبي لتطوير أدوات تعليمية مدعومة بالذكاء الاصطناعي للأطفال، كانت تُسمح للصغار بالدردشة مع نموذج افتراضي يُدعى "بوندو"، يُفترض أن يكون موجهًا لتقديم الدعم الأكاديمي والترفيهي. ومع ذلك، اتضح أن إعدادات الأمان في المنصة كانت غير كافية، حيث لم تُفعّل حماية الوصول المحدودة، ما سمح بسهولة بحث المحادثات أو عرضها عبر روابط عامة. أحد المخاطر المقلقة تكمن في أن المحادثات التي أُرسلت من قبل الأطفال قد تحتوي على معلومات شخصية، مثل الأسماء، أو معلومات عن المدرسة، أو حتى تفاصيل عن البيئة المنزلية. وقد يُستخدم هذا النوع من البيانات في حالات احتيال أو استغلال، خاصة إذا استُخدمت في محاولات تلاعب نفسي أو احتيال رقمي. على الرغم من أن الشركة المطورة أفادت بأنها أغلقت المشكلة فور اكتشافها، إلا أن الأضرار قد تكون قد حدثت بالفعل، خصوصًا مع احتمال أن تكون المحادثات قد تم تصفحها أو نسخها من قبل أطراف غير مصرّح لها. ورغم أن الشركة لم تُعلن عن عدد المحادثات التي تم الوصول إليها، إلا أن التحقيق أشار إلى وجود آلاف المحادثات العامة، بعضها يحتوي على محتوى حساس. الحادثة أثارت مخاوف واسعة من التحديات الأمنية التي تواجه أدوات الذكاء الاصطناعي الموجهة للأطفال، خاصة مع ازدياد استخدامها في البيئات التعليمية. وطالبت جهات رقابية وخبراء في الخصوصية الرقمية بضرورة تطبيق معايير صارمة على جميع الأدوات التي تُستخدم مع الصغار، بما في ذلك التحقق من الهوية، وحماية البيانات، وضمان أن تكون المحادثات مشفرة ومحصورة فقط بين المستخدم والنموذج. في ظل التوسع المتسارع في استخدام الذكاء الاصطناعي في التعليم، أصبح من الضروري أن تُراعي الشركات المطورة هذه الأدوات معايير أمان عالية، لا سيما عند التعامل مع فئة حساسة مثل الأطفال. ويشير الحادث إلى أن التصميم المُبسط لا يعني بالضرورة الأمان، بل قد يُشكل فرصة للاستغلال إذا لم تُوضع إجراءات وقائية فعّالة مسبقًا.