يمكن لنماذج الذكاء الاصطناعي تحقيق إدماج خفي لقدرات حسابية عشوائية

كشفت دراسة حديثة تم قبولها في مؤتمر أنظمة معالجة المعلومات العصبية (NeurIPS 2026) عن قيود محتملة في التقييم الأمني لنماذج الذكاء الاصطناعي. قام فريق البحث ببناء هجوم خلفي (backdoor attack) عبر تضمين شبكات عصبية مشفرة داخل أوزان النموذج المضيف، بحيث لا يتم فك تشفيرها وتنفيذ العمليات الحسابية المخفية إلا عند استلام إشارة تشغيل سرية محددة. تعتمد هذه الآلية على تقنية أقفال التشفير الرقمي، وفي ظل الفرضيات التشفيرية، يظل من الصعب استحضار الدوائر المخفية أو تفسيرها حتى مع حصول المدقّق على وصول كامل إلى أوزان النموذج، مما يوسّع نطاق البحث من إخفاء السلاسل الثابتة إلى إخفاء المهام الحسابية التعسفية. نفّذ فريق البحث إثباتًا للمفهوم باستخدام إطار عمل PyTorch، وأجرى تجارب حول مهمة التنبؤ بالتفاعلات الكيميائية، واختبر عدة طرق لاستحضار القدرات، بما في ذلك الضبط الدقيق، وحقن الضوضاء في الأوزان، والبحث عن المشغلات القائم على التدرج، والتدريب العدائي المحتمل. أظهرت النتائج أن هذه الطرق لم تنجح في استحضار القدرات المخفية بشكل فعّال. وبالاستناد إلى الضمانات النظرية في مجال التشفير، تكشف هذه الدراسة عن القيود النظرية والعملية لأساليب تدقيق النماذج التي تعتمد على استحضار القدرات. كما قام فريق البحث بنشر النماذج ذات الصلة علنًا لدعم الأبحاث المستقبلية في تقنيات الدفاع، وتعزيز بناء أنظمة تقييم أمني أكثر موثوقية للذكاء الاصطناعي.