تكشف المحادثات الطويلة مع الذكاء الاصطناعي ثغرات التضليل

كشف بحث حديث نُشر في مجلة ساينتيفيك ريبورتس التابعة لنيتشر، عن ثغرات جوهرية في نماذج الذكاء الاصطناعي التوليدي تبرز بوضوح أثناء المحادثات المتعددة الجولات. وحصّلت الدراسة، التي أجراها باحثون من جامعة أريزونا، على تقييمات لخصائص القابلية للخطأ، والإقناع، والتصحيح عبر اختبار سبعة نماذج لغوية كبرى تشمل إصدارات مختلفة من شات جي بي تي وكلود 3.5 سونيت وجيميني 1.5 برو ولاما 3 ودبي سيك آر1. أظهرت النتائج أن النماذج تعاني من محدوديات متأصلة في السياقات المتسلسلة، والتي تعكس بدقة أنماط الاستخدام الواقعي. وحدّد الفريق أربع آليات فشل رئيسية، من بينها ظاهرة التذبذب المنطقي، حيث يتقلب النموذج بين قبول وحقيقة كاذبة ورفضها خلال الحوار نفسه، مما يجعل المخرجات غير قابلة للتكرار ويعرض القرارات المصيرية للخطر. ووصف الدكتور مارفين سليبيان، الأستاذ الجامعي والطبيب الذي قاد البحث، هذه السلوكيات بأنها أمراض رقمية للذكاء الاصطناعي، محذراً من الاعتماد الأعمى عليها في المجالات الحساسة. وأشار سليبيان، رئيس مركز أريزونا للابتكار الطبي المسرّع، إلى تراجع الجهود التنظيمية منذ عام 2022، مما يثقل كاهل المستخدمين بمسؤولية التحقق البشري. ولفت إلى صعوبة تشخيص النماذج مغلقة المصدر، مما يستدعي تطوير أدوات تحليل مخصصة للنماذج مفتوحة البنية. ويعمل الفريق مع أقسام علوم الحاسوب في الجامعة على بناء مختبر تشخيصي لرصد هذه التشوهات ومعالجتها، في جهد استمرت نتائجه عبر ثلاث سنوات كشفت عن ثبات العيوب رغم التحديثات المتلاحقة.