وكلاء الذكاء الاصطناعي في الإنتاج يجيبون رغم فشل الأدوات

في تحليلات تقنية جديدة، سلّط محللون الضوء على نوع صامت من الأعطال يواجه أنظمة الذكاء الاصطناعي الفعّال عند تشغيلها في البيئات الإنتاجية، ويتمثل في استمرار الوكيل في تقديم إجابة بعد فشل أدواته الخارجية. وفي مثال على ذلك، يعمل وكيل على التحقق من بيانات فواتير العملاء عبر واجهات برمجة داخلية، لكن صلاحية بيانات الاعتماد تنقضي بعد عدد من الاتصالات، فتبدأ الاستدعاءات التالية بالرفض. وبدلاً من توقف المهمة، يعيد الوكيل تجربة الأداة بصيغ متغيرة، ثم يكتب إجابة موجزة وواثقة، فيما تنتهي عملية التشغيل بعلامة نجاح وتبقى لوحة المتابعة خضراء. ويرى المحللون أن هذا الخلل مختلف عن الأعطال الواضحة التي تسترعي الانتباه بسبب كلفة مرتفعة أو غياب قيمة تجارية، إذ قد تشير توقعات «جارتنر» إلى إلغاء نسبة تتجاوز أربعين في المئة من مشاريع الذكاء الاصطناعي الفعّال بحلول نهاية عام ألفين وسبعة وعشرين، لأسباب تتعلق بالتكلفة ووضوح الفائدة التجارية وأدوات المخاطر. أما فشل بيانات الاعتماد فيبقى خفياً، لأن نموذج اللغة يتعامل مع رسالة الخطأ بوصفها نصاً ضمن السياق، فيجد وسيلة للإجابة سواء توفرت البيانات أم لم تتوفر. ويخلص التحليل إلى أن اعتماد نموذج أكثر ذكاء ليس حلاً كافياً، لأن زيادة الذكاء قد تجعل الإجابة الخاطئة أكثر إقناعاً. ويقترح بدلاً من ذلك بناء طبقة حوكمة حول الأدوات، وفصل الأخطاء القابلة لإعادة المحاولة، مثل انقطاع الاتصال أو تجاوز حدود الاستخدام، عن الأخطاء التي لا تتجدد بالمحاولة، مثل انتهاء الصلاحية أو رفض الوصول أو عدم وجود المورد. ويجب أن تُعالج هذه الحالات مباشرة، وأن تُحال القرارات الحساسة، كالعمليات المالية التي قد تكون قد تمت، إلى موظف مختص بدل إعادة التنفيذ. كما ينصح التحليل بتسجيل اسم الأداة الفاشلة وحالة الفشل في سجلات التشغيل، بدل تمرير نص الخطأ الخام إلى النموذج. ويرى المحللون أن الوكيل يحتاج إلى بروتوكول يسمح له بالقول إن مهمة معينة لم تكتمل، إضافة إلى فحص نهائي يتحقق من نجاح استدعاء واحد على الأقل ذي صلة بالمهمة قبل إصدار الإجابة. ويعتبر هذا الفحص أداة أولية، ويمكن تشديده لاحقاً بحيث يرتبط كل سؤال بالأدوات الواجب نجاحها. كما يوصي المحللون بقياس نسبة العمليات التي تنتهي من دون أي أداة ناجحة، والأدوات والحالات الأكثر فشلاً، وعدد المرات التي اضطر فيها النظام إلى رفض الإجابة. وتصبح لوحة المتابعة أكثر فائدة حين تعكس ما يفعله الوكيل فعلياً، لا مدى توفر الخدمة فقط، لأن نظاماً قد يعمل بشكل مستمر وهو يقدم إجابات بلا بيانات.