HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 3 أيام
إيجرنت
LLM

تصميم الحلقات الذكية يخفض هلوسة الذكاء الاصطناعي

انتقلت صناعة الذكاء الاصطناعي بسرعة من الاعتماد على صياغة الأوامر الثابتة إلى تصميم حلقات تفاعلية متكررة للوكلاء الذكيين، وهو تحول لخصته تصريحات منشورة في يونيو 2026 بأن العبارة المعتمدة صارت لا نكتب أوامر، بل نصمم حلقات. ورغم كفاءة هذا النهج في السماح للنماذج بمراجعة أعمالها وتحسينها عبر خطوات متعددة، إلا أنه يطرح تحدياً جوهرياً يتمثل في تضخم مساحة التحقق، فكل مرحلة في الحلقة تمثل ناتجاً محتملاً للخطأ، مما يجعل عملية المراقبة أكثر تعقيداً من مجرد توليد إجابة واحدة. كشفت تجارب منهجية حديثة أن الحلقات تكون قوية بقدر ما يفرض عليها من معايير تحقق خارجية، حيث يثبت الاعتماد على النقد الذاتي للنموذج نفسه كونه الحلقة الأضعف في السلسلة. ففي تجربة قارنت بين أسلوبين للتحقق داخل حلقة توليد إجابات واقعية، أظهرت النتائج أن نماذج مثل Claude Opus 4.8 لا تستطيع تصحيح أخطائها ذاتياً، بل سجلت معدل هلوسة بلغ 43.3 بالمئة، وهو ما يعادل أو يزيد طفيفاً على خط الأساس عند 40 بالمئة دون أي تحسين حقيقي، مما يؤكد أن التكرار المحكوم بتقييم داخلي يهدر الموارد دون رفع المصداقية. على النقيض، دفع تطبيق مؤشرات تحقق هندسية محددة ومربوطة بمصادر خارجية، تعتمد على تحليل الزوايا المتجهية بين السؤال والإجابة والمرجع لتقييم الترابط الدلالي، المعدل إلى 19.2 بالمئة فقط، مما يمثل انخفاضاً نسبياً يصل إلى 52 بالمئة في حالات الهلوسة. واكتسبت هذه الدقة من كونها حتمية وقابلة للقياس، مما يمنع النموذج من المصادقة على أخطاء تبدو سليمة لغوياً. وقد تم التحقق من النتائج عبر محكم خارجي لضمان عدم تحيز التقييم، مع توفر الكود والمقاييس عبر مشروع Groundlens المفتوح. تؤكد هذه المعطيات أن تصميم الحلقات التكرارية يجب أن يركز بشكل جوهري على معمارية التحقق، إذ إن موثوقية الوكيل الذكي لا تنبع من قدرته على التفكير الذاتي، بل من ربطه بأنظمة فحص خارجية لا تقبل التفسيرات الغامضة. في ظل التنافس المتصاعد على بناء وكلاء قادرين على العمل المستقل، تصبح معايير التحقق الحتمية والقابلة للتدقيق ركيزة أساسية لضمان دقة المخرجات وتقليل المخاطر التشغيلية، مما يفتح باباً جديداً لتطوير أطر عمل أكثر صرامة لمراجعة أداء النماذج اللغوية الكبيرة.

الروابط ذات الصلة