الذكاء الاصطناعي يحدد إجاباته غير المؤكدة لتعزيز الثقة

كشفت دراسة حديثة قادها باحثون من جامعة كاليفورنيا ريفرسايد، عن منهجية جديدة لتعزيز موثوقية النماذج اللغوية الكبيرة من خلال فصل خاصية الثقة في الإجابة عن دقتها الفعلية. وتنشر الورقة البحثية على خادم أرشيف أركايف للدراسات الأولية، وتسلط الضوء على تناقض منهجي في الذكاء الاصطناعي، حيث تقدم النماذج إجابات خاطئة بيقين شديد، أو تعطي إجابات صحيحة بحذر واضح. ويثبت البحث أن هاتين الخاصيتين لا تتوزعان على معايير داخلية موحدة، بل تعتمدان على مسارات رقمية مستقلة داخل الشبكة العصبية. اعتمد الفريق البحثي بقيادة هيت باتيل على نموذجي لاما 3.1 وجاما 2، واستخدم المشفرات الذاتية المتناثرة لاستكشاف النشاط الداخلي أثناء معالجة الأسئلة. وتم تصنيف المخرجات بناءً على الدقة ومستوى الثقة، مما أتاح تحديد ثلاث فئات من الميزات الداخلية: مرتبطة بالشك فقط، أخرى بالإجابة الخاطئة فقط، وثالثة مشتركة تربط بينهما. أظهرت التجارب أن تعديل الميزات المشتركة دون إعادة تدريب النموذج الكامل أدى إلى خفض درجة الشك بنسبة تصل إلى 75 بالمئة، مع رفع الدقة بنسبة 1.1 بالمئة. يتميز هذا البحث بإمكانية التدخل الفوري في سلوك النموذج أثناء التنفيذ الفعلي، مما يلغي الحاجة إلى عمليات إعادة التدريب المكلفة. واختبر الباحثون آلية حيث يقوم النظام بتحديد الإجابات المشبوهة تلقائياً عبر ثلاث ميزات داخلية في طبقة متوسطة، مما يسمح له بالامتناع عن الرد عليها. ونتج عن ذلك قفزة في الدقة الكلية من 62 بالمئة إلى 81 بالمئة، مع استمرار النموذج في الرد على أكثر من نصف الأسئلة، متفوقاً بذلك على خيارات الاعتذار التقليدية التي كانت ترفع الدقة إلى 64 بالمئة فقط. يشير الفريق إلى أن الميزات المكتشفة لا تقتصر على اختبارات محددة، بل تعكس خصائص عامة قابلة للتطبيق عبر مهام مختلفة. وتفتح هذه الآفاق الباب أمام مطوري الذكاء الاصطناعي لتحديد وتعديل السمات السلوكية الأخرى داخل النماذج، مما يمهد الطريق لأنظمة أكثر شفافية وقابلية للتحكم. يعزز هذا النهج خطوة جوهرية نحو تبني الذكاء الاصطناعي في القرارات الحساسة، حيث يمكن للنظام أن يرفع علامة تنبيه ذاتياً كلما اقترب من منطقة عدم اليقين.