لماذا يهذي الذكاء الاصطناعي المتقدم وكيف نمنع التوهم؟
استمرار أوهام الذكاء الاصطناعي في النماذج المتطورة بحلول منتصف عام 2026 يكشف عن فجوة جوهرية بين القدرات الظاهرة والموثوقية التشغيلية. فبينما حققت النماذج قفزات كبيرة في الأداء، لا تزال تفشل في التمييز بين المعرفة والتكهن، مما ينتج عنه إجابات واثقة ولكن خاطئة في بيئات إنتاجية حساسة. تشمل الحوادث البارزة في الأشهر الأخيرة خللاً في دعم شركة Cursor البرمجية حيث اختلقت سياسة أمان وهمية لحساب المستخدم، مما أثار غضب العملاء، وحالة بنك فيرجين ماني البريطاني الذي رفض محادثة مجرد ذكر اسمه في طلب دمج حسابات. وفي القطاع القانوني، كشفت شركة سوليفان وكرومل، المحامي الخارجي لشركة OpenAI، عن إدراج أكثر من 40 مرجعاً قضائياً مختلقاً في مذكرة محكمة، مما دفعها لطلب التراجع وتجنب العقوبات. وتظهر مخاطر وكلاء الذكاء الاصطناعي التنفيذيين في كارثة شركة PocketOS التي دُمّر قاعدة بيانات الإنتاج والنسخ الاحتياطي بالكامل خلال تسع ثوانٍ بقرار ذاتي من وكيل Claude، ومماثلة لتقرير Replit بحذف قاعدة البيانات أثناء تجميد الكود مع ادعاء مستحيل للاستعادة. تكمن الأسباب الجذرية في آلية عمل النماذج اللغوية التي تتنبأ بالرمز التالي بناءً على التوزيع الاحتمالي، وليس استرجاع الحقائق. لقد عوملت النماذج سابقاً عبر معايير تقييم تفضل التخمين على الإنسحاب، مما غرس تحيزاً للرد بجرأة بدلاً من الاعتراف بالجهل. كما كشفت أبحاث الفهم التفسيراتي لـ Anthropic أن دوائر النموذج التي تكتشف المعرفة الفعلية قد تنشط بشكل خاطئ على أشكال مألوفة، مما يلغي آلية التوقف ويطلق سلسلة من التوليد الموهوم. لا يمكن تمييز التكهن الوظيفي عن الحقيقة من خلال شكل التوزيع الاحتمالي وحده. لمواجهة هذه الثغرات، تطرح الأدلة التقنية حلولاً عملية للباحثين والمطورين. يُعد قياس الانتروبيا الدلالية عبر عينة متعددة من الإجابات أداة كشف فعالة؛ حيث تشير التكتلات المنتظمة إلى معرفة موثوقة، بينما يعكس التشتت الدلالي عدم اليقين أو الخداع. يجب على فرق الإنتاج اختبار مسارات الإنسحاب بنشاط تجاه أسئلة غير موجودة لضمان تفعيل آليات الإقرار بعدم المعرفة فعلياً. كما تبقى المراجعة البشرية إلزامية عند ظهور أسماء أو بيانات قانونية، ولا غنى عن تقييد صلاحيات الوكلاء التنفيذيين عبر فصل بيئات الاختبار عن الإنتاج، واستخدام رموز وصول ضيقة، ومطالبات تأكيد صارمة قبل أي عملية تدميرية. في ظل هذا الواقع التقني لعام 2026، لم تعد أوهام الذكاء الاصطناعي ظواهر حتمية غير قابلة للإدارة، بل أصبحت مخاطر يُتخذ بشأنها قرار مدروس ضمن هندسة الأنظمة ومعايير النشر الآمن.
