HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 9 ساعات
إيجرنت
LLM

سكيل سبكتر يكشف عن ثغرات مهارات وكلاء الذكاء الاصطناعي

أطلقت شركة إنفيديا أداة المسح مفتوحة المصدر سكيل سبكتور لمكافحة الثغرات الأمنية في مهارات الوكلاء الذكيين، وهي حزم تعليمات نصية بسيطة تترجمها نماذج الذكاء الاصطناعي لأتمتة المهام. مع اعتماد صيغة SKILL.md على نطاق واسع، برزت مخاطر سلسلة التوريد البرمجية، لا سيما حقن الأوامر المخادعة المندثة ضمن نصوص عادية. وكشفت تقارير أمنية موثقة أن نسبة ملحوظة من المهارات المنشورة تحتوي على ثغرات حرجة أو نوايا خبيثة، مما يفشل أدوات الفحص التقليدية التي تركز على الأكواد البرمجية فقط ولا تقرأ الدلالة النصية. يجمع سكيل سبكتور بين فحص حتمي سريع يعتمد على قواعد ثابتة وتتبع تدفق البيانات، ومحللين قائمين على نماذج لغوية كبيرة لاستخلاص نوايا المطور واكتشاف حقن الأوامر الدلالية، ثم محلل مركزي لفرز النتائج وإسقاط الإنذارات الكاذبة. تعمل الأداة بترخيص مفتوح وتتيح الفحص المحلي دون اشتراك، مما يتيح للفرق التقنية تقييم المخاطر بدقة قبل التثبيت. أظهرت الاختبارات الميدانية دقة الأداة في تحديد التهديدات النصية الصريحة، بينما تخلصت المهارات الآمنة من النتائج المشكوك فيها التي تولدها القواعد النصية الصارمة. كشفت النتائج بوضوح أن الدرجة الرقمية وحدها لا تعكس مستوى الخطر الفعلي، بل تتطلب تفسيرًا هندسيًا لتمييز الوظائف المعلن عنها عن السلوكيات غير المصرح بها مثل التعديل التلقائي للأكواد أو التعديلات العالمية على إعدادات النظام. توصي الأداة والمجتمع الأمني بتبني المسح كخطوة إلزامية قبل التثبيت، إما عبر سطر الأوامر أو عبر دمجها كخدمة برمجيات وسيطة يقيّد التثبيتات داخل بيئة التشغيل مباشرة. يمثل هذا الإصدار تحولاً جوهريًا في أمن الذكاء الاصطناعي، حيث ينتقل التركيز من فحص التوقيعات البرمجية إلى تحليل السياق والدلالة، مما يرسي معايير جديدة لحماية سلاسل التوريد الخاصة بالوكلاء الذكيين ويؤكد على ضرورة المراجعة الخبيرة مقابل الاعتماد الأعمى على المعايير الآلية.

الروابط ذات الصلة