إخراجات LLM تمرّ بالتحقق لكنها تنتج بيانات خاطئة

كشفت أبحاث حديثة عن خلل جوهري في اعتماد تقنيات الترميز المقيد لتوليد المخرجات الهيكلية من النماذج اللغوية الكبيرة. ورغم أن هذه التقنيات حلّت مشكلة صحة صيغة بيانات JSON بنجاح، إلا أن المعايير المعتمدة في بيئات الإنتاج تكشف عن تناقض خطير: صحة الهيكل لا تعني صحة البيانات. وتشير نتائج اختبار شركة BAML ودراسات أكاديمية مستقلة إلى أن فرض القواعد النحوية الصارمة أثناء التوليد يستهلك جزءاً من قدرة النموذج على التحليل، مما يؤدي إلى انخفاض دقة الإجابات بنسبة تتراوح بين ثلاثة وتسعة نقاط مئوية، وتصل إلى خمسة عشر نقطة في مهام الاستدلال الرياضي. وتوضح الدراسات خمس أنماط فشل رئيسية تفلت من فلاتر التحقق الهيكلي، حيث تنتج مخرجات صالحة صورياً لكنها خاطئة محتواً. وتشمل هذه الأنماط: الهلوسة في قيم القوائم المحددة، والاختراعات الواقعية للحقول النصية الحرة، والتناقض بين حقول متعددة، وانهيار التوزيع الإحصائي نحو القيم الآمنة، والهلوسة في إنشاء مصفوفات فارغة. وتسبب هذه الظواهر فشلاً صامتاً في خطوط المعالجة، حيث تمر البيانات الخاطئة عبر فحوصات التحقق دون أن تثير أي تنبيهات، مما يعرض عمليات الأتمتة للخطر. ويقترح الخبراء استراتيجيات تعويضية لمواجهة هذه العيوب، على رأسها اعتماد منهجية التوليد الحر ثم التحقق التي حققت دقة أعلى مقارنة بالترميز المقيد في نماذج مقارنة. كما يؤكدون على تبني نموذج دفاع ثلاثي الطبقات: الطبقة الأولى للتحقق الهيكلي الأساسي، والطبقة الثانية لمعايرة الدلاليات والقواعد بين الحقول، والطبقة الثالثة لوضع مؤشرات واضحة لحالة عدم اليقين تسمح للنموذج بالإبلاغ عن عدم قدرته على التقييم بدقة. وتظهر مؤشرات مثل تغير توزيع القيم وارتداد انتروبيا الحقول كإنذارات مبكرة لاكتشاف الانحرافات قبل وصولها إلى أنظمة الإنتاج. وينهي التقرير بتأكيد على تحول نموذج التحقق من الاعتماد الكلي على صحة الشكل إلى إدراك أن المطابقة الهيكلية تمثل الحد الأدنى من الضمانات وليست مقياساً للكفاية، مما يستدعي دمج أدوات المراقبة الدلالية والتقييم الخارجي لضمان موثوقية الأنظمة القائمة على الذكاء الاصطناعي في البيئات الصناعية.