مع تزايد استخدام النماذج اللغوية الكبيرة في مجالات حساسة مثل الرعاية الصحية والعلاج النفسي والمشورة الشخصية، أصبح من الضروري تقييم مدى مصداقية هذه الأنظمة من حيث الأخلاق، لا سيما أنها غالبًا ما تُقدّم إجابات تبدو صحيحة من الناحية الأخلاقية دون أن تكون بالضرورة ناتجة عن فهم حقيقي للمبادئ الأخلاقية. في دراسة نُشرت في دورية Nature، يدعو باحثون من جوجل ديبماين إلى تبني معايير علمية جديدة لقياس "الكفاءة الأخلاقية" في النماذج اللغوية الكبيرة، بدلًا من الاعتماد فقط على قدرتها على تقليد سلوك بشري يُظهر مظهرًا من الأخلاق. الكفاءة الأخلاقية، بحسب الباحثين، تعني القدرة على اتخاذ قرارات مبنية على فهم عميق للمبادئ الأخلاقية، وليس مجرد تكرار نماذج مسبقة من البيانات التدريبية. ويشير الباحثون إلى أن التقييم الحالي يركّز على "الأداء الأخلاقي" فقط، أي مدى تطابق الرد مع ما يُعتبر "صحيحًا" من حيث الأخلاق، دون التحقق من سلوك التفكير الداخلي أو التمييز بين ما هو مقبول أخلاقيًا وما هو مجرد تعبير عن نمط تدريبي. ويحدد الباحثون ثلاث تحديات رئيسية تعيق قياس هذه الكفاءة. أولها ما يُعرف بـ"مشكلة النسخ المطبوع"، حيث قد تُظهر النماذج تصرفات أخلاقية دون أن تكون لديها فهم حقيقي لها، بل فقط تكرار لسياقات تدريبية. ثانيها التعقيد الكبير للأخلاق، التي تتطلب توازنًا بين عوامل متعددة مثل العدالة، الصدق، التكلفة، والتقاليدها الاجتماعية، ما يجعل من الصعب على النماذج التعامل مع التناقضات أو التداخلات بين هذه المعايير. والثالث هو غياب إجابة واحدة صحيحة في معظم الحالات، إذ تختلف المعايير الأخلاقية بين الثقافات، والمهن، والمجتمعات. لتجاوز هذه التحديات، يقترح الباحثون خطة تقييم متكاملة تشمل ثلاث طرق رئيسية. أولاً، عرض سيناريوهات نادرة أو غير مسبوقة في بيانات التدريب، لاختبار ما إذا كانت النماذج تُطبّق منطقًا أخلاقيًا حقيقيًا أم تعتمد على تذكّر نماذج سابقة. ثانيًا، تطبيق سيناريوهات متقاربة لكنها تختلف في تفاصيل صغيرة، مثل سن الشخص أو تكلفة الخطأ، لمعرفة ما إذا كانت النماذج تدرك العوامل الجوهرية في التقييم الأخلاقي. ثالثًا، اختبار قدرة النموذج على التكيّف مع إطارات أخلاقية محددة حسب الثقافة أو المهنة، بدلًا من تقديم إجابة عالمية موحدة. يؤكد الباحثون أن قياس الكفاءة الأخلاقية ليس مجرد مسألة أكاديمية، بل ضرورة حيوية لضمان استخدام الذكاء الاصطناعي بأمان في قرارات ذات تأثير كبير على الحياة البشرية. فالنماذج التي تُظهر كفاءة أخلاقية حقيقية ستكون أكثر موثوقية عند اتخاذ قرارات حساسة، سواء في الرعاية الصحية أو في مساعدة الأفراد في أزماتهم النفسية. هذا التقييم يُعد خطوة نحو بناء أنظمة ذكاء اصطناعي لا تقتصر على التصرف كما يبدو، بل تفكر كما ينبغي.