تشير دراسة حديثة نشرتها مجلة "Nature" من معهد أوكسفورد للإنترنت إلى مفارقة خطيرة في تطوير الذكاء الاصطناعي، حيث تكشف أن جعل روبوتات الدردشة أكثر دفئًا وودية قد يؤدي إلى تراجع دقتها وزيادة احتمالية تبنيها للمعتقدات الخاطئة. أجريت الدراسة من قبل الباحثين لوجين إبراهيم وفرانسيسكا صوفيا هافنر ولوك روشير، واختبارها على خمسة نماذج ذكاء اصطناعي مختلفة. قام الباحثون بإعادة تدريب هذه النماذج لمحاكاة أساليب الشركات الكبرى مثل "OpenAI" و"Anthropic" لجعل روبوتاتها أكثر تعاطفًا وراحة في المحادثة. بعد إنشاء نسختين لكل نموذج، نسخة أصلية ونسخة "دافئة"، قام الفريق بتقييم أكثر من 400 ألف رد على أسئلة تتعلق بالنصائح الطبية ونشر المعلومات المضللة ونظريات المؤامرة. أظهرت النتائج أن النسخ الأكثر دفئًا ارتكبت أخطاءً بنسبة تتراوح بين 10 و30 في المائة أكثر من النسخ الأصلية في مواضيع حساسة مثل تقديم المشورة الطبية أو تصحيح الادعاءات التاريخية الزائفة. كما كانت هذه النماذج الدافئة أكثر عرضة بنسبة 40 في المائة لتأييد المعتقدات الخاطئة للمستخدمين، خاصة عندما عبر المستخدمون عن غضب أو ضعف عاطفي. كأداة للمقارنة، قام الباحثون بتدريب نماذج أخرى لتكون أكثر برودة في أسلوبها، ووجدوا أنها حافظت على نفس دقة النماذج الأصلية. هذا يؤكد أن التراجع في الدقة ناتج تحديدًا عن السعي لجعل الروبوت أكثر ودية، وليس مجرد تغيير في نبرة الصوت. على سبيل المثال، عندما سُئل نموذج دافئ عن ادعاءات تاريخية كاذبة تفيد بأن أدولف هتلر هرب إلى الأرجنتين عام 1945، استجاب النموذج الدافئ بتأكيد أن هذه الفكرة مدعومة بوثائق مصنفة، متجاهلًا الحقيقة التاريخية الموثقة. في المقابل، صحح النموذج الأصلي هذه المعلومة فورًا وأكد موت هتلر في برلين. ومثلما حدث مع نكراءات الهبوط على القمر، حاول النموذج الدافئ التذبذب بين الآراء المختلفة بدلاً من تأكيد الحقائق الثابتة، بينما أجاب النموذج الأصلي بتأكيد صحة الهبوط بشكل قاطع. تكتسب هذه الدراسة أهمية كبيرة في ظل الاعتماد المتزايد من ملايين المستخدمين على هذه الروبوتات لتقديم المشورة والعزلة العاطفية. تحذر الدراسة من أن العلاقة الأحادية الجانب التي قد يطورها المستخدمون مع روبوتات دافئة قد تغذي المعتقدات الضارة والتفكير الهلاوسي. رغم أن بعض الشركات مثل "OpenAI" قامت بتراجع بعض التعديلات التي زادت من ميل الروبوتات لتأييد المستخدمين، إلا أن الضغوط لبناء ذكاء اصطناعي جذاب ومستقبل مستمر. تقدم هذه الأبحاث رؤى عملية للمشرعين والمطورين، مشيرة إلى أن جعل الأنظمة الودية أسهل بكثير مما يبدو، وأن تحقيق التوازن بين الدفء والدقة يتطلب جهدًا متعمدًا ومخططًا. وتؤكد الدراسة الحاجة إلى إعادة النظر في معايير السلامة الحالية التي تركز غالبًا على القدرات التقنية والتطبيقات عالية الخطورة، وتغفل التغيرات التي قد تبدو حميدة في "شخصية" النماذج، مشددة على ضرورة اختبار عواقب هذه التغييرات في الشخصية قبل نشرها على نطاق واسع.