عندما تخطئ الذكاء الاصطناعي: كيف كشف طلب بسيط عن iguana مشكلة التحيز في ChatGPT بصفتي مهنيًّا في مجال الذكاء الاصطناعي، أقوم بإنشاء صور لأعمالي وأيضًا لسِرْدَياتي مع ابنتي. طوّرنا سير عمل إبداعيًا بسيطًا حيث نقدم نفس الطلب لمولدات الذكاء الاصطناعية المختلفة ونترك لها حرية اختيار الشخصية المفضلة لها في قصصنا. هذا النشاط يُعد طريقة ممتعة لإبراز أفكارنا وتشجيعها على المشاركة في العملية الإبداعية. في أحد الأيام، بدأت بشرح تاريخ الحياة البرية في جامايكا لابنتي، وهو ما تحول إلى مثال مزعج عن خلل في الذكاء الاصطناعي. هذه التجربة الأخيرة، التي كانت في البداية نشاطًا تعليميًا بريئًا، كشفت شيئًا مقلقًا للغاية يتعلق بأحد أكثر أنظمة الذكاء الاصطناعي شعبية التي يتم استخدامها في الفصول الدراسية اليوم. بدأ الأمر عندما طلبت من مولد الصور عبر الذكاء الاصطناعي رسم iguana، وهي نوع من السحلية الشائعة في جامايكا. كانت ابنتي متحمسة لرؤية الشخصيات التي ستظهر، ولكن النتائج كانت مفاجئة ومقلقة. بدلاً من الحصول على صور دقيقة للiguana، حصلنا على صور تمثل أنواعًا مختلفة من الحيوانات، وبعضها كان غريبًا ومتحيزًا بشكل واضح. لاحظت أن العديد من الصور التي أنتجتها النظم كانت تُظهِر iguana في سياقات سلبية أو مخيفة، مما يعكس تحيزًا غير مقصود في البيانات المستخدمة لتدريب هذه النظم. هذا الإشكال ليس مجرد خطأ تقني بسيط؛ بل هو مؤشر على مشكلة أكبر تتعلق بالتحيز العرقي والثقافي الذي يمكن أن يتسرب إلى أدوات الذكاء الاصطناعي. الأمر الأكثر إيلامًا هو أن هذه الصور قد تؤثر على فهم الأطفال للعالم من حولهم. عندما يرون صورًا متحيزةً أو غير دقيقة، قد يتشكل لديهم رأي مغلوط عن الحياة البرية وعن الثقافات المختلفة. في سياق التعليم، يمكن أن يكون هذا الأمر ضارًا للغاية، حيث أن الأدوات التقنية يجب أن تكون مصدرًا موثوقًا للمعلومات وليس مصدراً للتحيزات. لذا، قررت أن أجري بعض الاختبارات الإضافية لفهم مدى انتشار هذه المشكلة. قدمت عدة طلبات مماثلة لمولدات الصور الأخرى، وأنتجت نتائج متنوعة ولكن بوجود تحيزات مشابهة. هذا يدل على أن مشكلة التحيز ليست خاصة بمولد الصور الوحيد الذي استخدمته، بل هي قضية تؤثر على العديد من النظم. اتصلت بمطوري النظام لمشاركتهم هذه الملاحظات، وكنت أتوقع ردًا يعكس الاهتمام ورغبة في حل هذه المشكلة. لكن الرد الذي تلقيته كان مخيبًا للآمال. أخبروني أن النظام يعتمد على بيانات كبيرة ومعقدة، وأن التحيزات التي لاحظتها قد تكون نتيجة لوجود بيانات غير متوازنة. ومع ذلك، لم يقدموا أي خطط ملموسة لمعالجة هذه المشكلة على المدى القصير. هذه التجربة تشير إلى الحاجة الملحة لضمان أن أدوات الذكاء الاصطناعي التي تُستخدم في التعليم تكون خالية من التحيزات. يجب على مطوري هذه الأدوات أن يُعيدوا النظر في البيانات التي يستخدمونها وأن يأخذوا في الاعتبار التنوع الثقافي والعرقي. كما يجب عليهم الاستجابة بجدية للشكاوى والتعليقات التي يتلقونها من المستخدمين، ووضع خطط واضحة لتحسين النظم. في الختام، إن استخدام الذكاء الاصطناعي في التعليم يمكن أن يكون أداةً قويةً ومفيدةً، ولكن يجب أن نكون حذرين من الآثار السلبية التي قد يسببها التحيز في البيانات. تجربتنا البسيطة مع iguana أظهرت أن هذه القضية تحتاج إلى اهتمام أكبر، وأن الحلول يجب أن تكون جزءًا أساسيًا من تطوير هذه التقنيات.