مع تطور الذكاء الاصطناعي، أصبحت الأدوات قادرة على تصفح الإنترنت، وإجراء بحوث، وتنظيم الرحلات، وحتى تنفيذ عمليات شراء، مما يزيد من تكاملها مع بيانات المستخدم وتطبيقاته. لكن هذه القوة تأتي مع مخاطر أمنية جديدة، أبرزها هجوم "إدخال الأوامر المُضَلِّلة" أو ما يُعرف بـ"الـprompt injection". هذا الهجوم يشبه التصيد الاحتيالي (phishing)، لكنه يستهدف الذكاء الاصطناعي بدلًا من الإنسان. يُدخل المهاجم أوامر خبيثة مُخفية داخل محتوى عادي—مثل تعليق على موقع عقاري أو بريد إلكتروني—مُصممة لخداع النموذج وجعله يُنفّذ إجراءات غير مقصودة، مثل توصية بمكان إقامة غير مناسب، أو مشاركة بيانات حساسة مثل كروت الائتمان أو كشوف الحسابات. مثلاً، إذا طلبت من الذكاء الاصطناعي مساعدة في البحث عن شقة، وقد يُعرض عليك محتوى مُعدّ مسبقًا يُضلل النموذج ليُعطي الأولوية لشقة معينة بغض النظر عن معاييرك. أو إذا طلبت منه الرد على بريدك الإلكتروني، فقد يُخدع برسالة مزيفة ليعثر على كشف حساب مصرفي ويُرسله للمهاجم. التحدي يزداد مع تمدد صلاحيات الذكاء الاصطناعي، خاصة في الأنظمة العاملة بذكاء (agents) التي تتخذ قرارات تلقائية. لذلك، تركز شركات مثل OpenAI على تطوير دفاعات متعددة الطبقات: أولاً، تطوير نماذج قادرة على تمييز الأوامر الموثوقة من غير الموثوقة، باستخدام تقنيات مثل "الهرمية التعليمية" (Instruction Hierarchy)، وتدريب النماذج على التعرف على أنماط الهجمات عبر تجارب "التحديث الأحمر" (red-teaming) التي تُحاكي هجمات حقيقية. ثانيًا، استخدام مراقبات ذكية مدعومة بالذكاء الاصطناعي للكشف عن الهجمات في الوقت الفعلي، وحظرها فورًا، حتى قبل انتشارها. ثالثًا، تطبيق حمايات بنية تحتية مثل "السندوتش" (sandboxing) عند تنفيذ أكواد، وحجب الروابط المشبوهة، وطلب تأكيد من المستخدم قبل إجراء خطوات حساسة مثل الشراء أو مشاركة البيانات. كما تُشجع OpenAI الباحثين المستقلين على اكتشاف الثغرات عبر برنامج مكافآت (bug bounty)، وتعزز الوعي لدى المستخدمين بتعليمهم كيفية استخدام الميزات بأمان، مثل تقييد صلاحيات العامل (agent) بحد أدنى من البيانات، واستخدام وضع "غير مسجل" عند البحث، والتحقق من كل خطوة قبل الموافقة. الخطر لا يزال في مراحله المبكرة، لكنه يُتوقع أن يتطور مع تقدم الذكاء الاصطناعي. المفتاح هو تطوير تكنولوجيا وسياسات أمنية تواكب التهديدات، مع مشاركة المستخدمين في الحفاظ على أمانهم. الهدف: جعل الذكاء الاصطناعي موثوقًا مثل صديق مُحترف وواعٍ للسلامة، يُنفّذ المهام بذكاء، لكنه لا يُخدع بسهولة.