الذكاء الاصطناعي: مخاطر الأمان عند إضافة الأدوات والذاكرة
مع تطور الذكاء الاصطناعي من مجرد توليد النصوص إلى وكلاء ذكيين (Agents) يمتلكون قدرات استدعاء الأدوات، وتخزين الذاكرة، والتخطيط متعدد الخطوات، تحولت مخاطره الأمنية جذريًا. لم تعد أنظمة الدفاع التقليدية الموجهة ضد حقن أوامر نماذج اللغة الكبيرة قادرة على مواجهة الأسطح الهجومية المعقدة التي يقدمها الوكلاء الذكيون. وتشير تقارير عام 2026 إلى أن ما يقرب من 98% من قادة الأمن يواجهون صراعًا حادًا بين تسريع نشر الوكلاء الذكيين والامتثال للوائح الأمنية. أدخل الوكلاء الأذكيون أربعة أبعاد هجومية جديدة هي: سطح الحقن، وسطح الأدوات، وسطح الذاكرة، ودورة التخطيط. يكمن خطر سطح الحقن في "الحقن غير المباشر"، حيث يقوم المهاجمون بتزوير محتوى وثائق خارجية أو صفحات ويب لتضليل الوكيل الذكي وجعله يفسر التعليمات الخبيثة كسياق موثوق. أما سطح الأدوات فيتعلق بسوء استخدام الصلاحيات؛ إذ يمكن للمهاجمين عبر حقن المعاملات التلاعب بالوكيل لتنفيذ عمليات عالية الخطورة مثل كتابة قواعد البيانات. ويتجلى خطر سطح الذاكرة في ظاهرة "التسميم" المتمثلة في تعديل بيانات الذاكرة الدائمة، مما يدفع الوكيل لاتخاذ قرارات ضارة بناءً على معلومات خاطئة خلال الجلسات اللاحقة. ويعد سطح دورة التخطيط الأكثر فتكًا: فبمجرد توجيه منطق استنتاج الوكيل للانحراف عن هدفه الأصلي، تنتشر الأخطاء بسرعة ضمن بنية متعددة الوكلاء مسببة سلسلة ردود فعل واسعة النطاق. وتُظهر الدراسات هشاشة دفاعات طبقة النموذج الحالية في البيئات العملية، حيث يمكن لهجمات التحسين الدقيق تجاوز بعض مرشحات الأمان بسهولة. لذا، يجب إنشاء دفاع متعمق على مستوى تنفيذ النظام. ومع ذلك، غالبًا ما يوجد توتر بين إجراءات السلامة وقدرة الوكلاء المستقلة؛ فالقيود المفرطة تُضعف الكفاءة، فمثلاً تقلل بيئات الصندوق الرمزي من توفر الوظائف، بينما تزيد الموافقات البشرية من تأخر الاستجابة. تستوجب الاستراتيجية الفعالة للأمان تخصيصها حسب مخاطر النشر، مع إعطاء الأولوية لحماية السيناريوهات ذات التأثير العالي، مثل اعتماد أدوات إدارة مستقلة عن الوكلاء، وتطبيق مبدأ الحد الأدنى من الصلاحيات، وإنشاء مراقبة قابلة للرصد موجهة لعملية الاستدلال. ولا يُعتبر أمن الوكلاء أمرًا ثنائيًا (تشغيل/إيقاف)، بل هو لعبة توازن مستمرة بين القدرات والمخاطر. وعلى المنظمات الراغبة في ضمان سلامة التطبيقات قبل بناء الوكلاء الذكية، رسم أسطح الهجوم مسبقًا ودمج آليات الحماية داخل تصميم البنية المعمارية، بدلاً من الانتظار حتى وقوع الحوادث ثم اللجوء للإصلاح لاحقًا.
