أعلنت شركة سايث (SCYTHE)، الرائدة في مجال تقييم التعرض للهجمات المتقدمة واختبار التحكم الأمني المستمر، بالشراكة مع شركة ستارسيير (Starseer)، الرائدة في ضمان سلامة تشغيل الذكاء الاصطناعي وتحليله، عن إطلاق منصة مشتركة مبتكرة لحماية المؤسسات من التهديدات الناتجة عن استخدام الذكاء الاصطناعي في الهجمات السيبرانية. تُعد هذه الشراكة أول حل تجاري يجمع بين تجسيد سلوك المهاجمين المتقدمين وضمان أمان الذكاء الاصطناعي، بهدف تجهيز الشركات لمواجهة التهديدات المدعومة بالذكاء الاصطناعي والأنظمة الذاتية. يأتي هذا التعاون استجابةً لتسارع ظهور الذكاء الاصطناعي كسطح هجوم جديد، يتجاوز قدرة معظم برامج الأمن السيبراني على التكيف. وفقًا لتيم شولز، الرئيس التنفيذي لشركة ستارسيير، فإن "الذكاء الاصطناعي أصبح سطحًا هجوميًا بسرعة أكبر من قدرة معظم المؤسسات على الرد عليه. من خلال دمج قدرة سايث على محاكاة سلوك المهاجمين الحقيقيين بأمان، مع القدرة العميقة لستارسيير على مراقبة وتحديد مسارات اتخاذ القرار داخل النماذج الذكية، نقدم للفرق الأمنية وسيلة آمنة وموثوقة لاختبار جاهزية منظوماتها أمام التهديدات التي تستند إلى الذكاء الاصطناعي". وتم إطلاق حل مشترك يركز على تقييم الاستعداد للذكاء الاصطناعي المُخفي (Shadow AI)، وهو عبارة عن نموذج مُستخدم غير مصرح به داخل المؤسسة، يمكن استغلاله من قبل المهاجمين لاستغلاله كنقطة دخول ذكية دون الحاجة إلى تثبيت أدوات جديدة. يُقيّم الحل جاهزية المؤسسة في ثلاث محاور رئيسية: التعرف على النماذج غير المصرح بها، تقييم سلامة سلوكها، وتحديد قدرة الأنظمة الأمنية على كشف النشاطات الضارة. وتأتي هذه المبادرة استجابةً لنشاطات هجومية حديثة، مثل عائلة البرمجيات الخبيثة "LameHug"، التي أظهرت كيف يمكن تحويل النماذج اللغوية الكبيرة إلى أدوات هجومية فعّالة. وفقًا لبرايسون بورت، الرئيس التنفيذي لشركة سايث، فإن "الشركات تعرف كيفية اختبار الأجهزة، الشبكات، والبيئات السحابية، لكنها لا تزال تفتقر إلى أدوات لاختبار الذكاء الاصطناعي كسطح هجومي. تتيح هذه الشراكة لفرق الأمن اختبار مسارات الهجوم الذكية بأمان، والتحقق من فعالية التحكم الأمني، وإنتاج أدلة قابلة للإثبات حول قدرتها على اكتشاف النماذج أو الوكالات الخبيثة". وتمتد الشراكة إلى تطوير فئة جديدة من إدارة التعرض المستمر للتهديدات (CTEM) في مجال الذكاء الاصطناعي، حيث تم دمج أدوات محاكاة المهاجمين مع مراقبة وتحليل نماذج الذكاء الاصطناعي في الزمن الحقيقي. يُمكن المؤسسات من خلال المنصة المُشتركة تقييم مخاطر الذكاء الاصطناعي، وتحسين كفاءة فرق العمل الحمراء والزرقاء والبنفسجية، وتمكينها من اكتشاف التهديدات المُستندة إلى الذكاء الاصطناعي قبل حدوثها. وتمثل هذه الخطوة تحولًا جوهريًا في نهج الأمن السيبراني، حيث تنتقل المؤسسات من حالة التعرض غير المُراقب إلى وضع يُبنى على التحقق والتأكيد من أمان النماذج الذكية، وهو أمر بالغ الأهمية مع التوسع المتسارع في استخدام الوكالات الذاتية، والذكاء الاصطناعي على الحافة، والنماذج الداخلية داخل المؤسسات.