متغيرات لنموذج ذكاء اصطناعي واحد تصد هجمات مساعدات الصوت

كشفت جامعة جورج ميسون الأمريكية عن تقنية دفاعية باسم ديفنيت تهدف إلى الحد من هجمات الصوت الخفي على المساعدات الذكية المنزلية. ويقف خلف هذا العمل كل من الأستاذ المشارك في علم الحاسوب كويانغ زينغ والباحث في مرحلة الدكتوراه يِنغ مينغ، وقدما النتائج في مؤتمر دولي لأنظمة وتطبيقات وخدمات الأجهزة المحمولة في كامبريدج ببريطانيا ضمن فعاليات عام ألفين وستة وعشرين. وتستغل هذه التهجمات القدرة على إقناع النظام السمعي بفهم أمر ضار بينما يسمع المستخدم موسيقى أو إعلانا عاديا، فيفهم الجهاز شيئا مختلفا كليا عما يسمعه الإنسان. وتزداد خطورة هذا النوع من الهجمات لأن الشركات توظف نماذج ذكاء اصطناعي متماثلة في ملايين الأجهزة، ما يسمح لهجوم ناجح واحد بإصابة نطاق واسع. وللتغلب على ذلك، يعتمد الفريق على توليد نسخ متباينة بدقة من النموذج نفسه عبر تغيير قيم عددية ثانوية في الشبكة العصبية، تعرف بالأوزان، بحيث تختل استجابة النموذج للتسجيل الضار بينما يحافظ على دقة التعريف الصوتي الطبيعي. وتظهر التجارب أن ديفنيت يقلل نجاح الهجمات بشكل كبير دون إبطاء الجهاز أو إعادة تدريب النماذج بالكامل، إذ يتطلب توليد نسخة جديدة أجزاء من الألف من الثانية بعد تحليل أولي. وتتيح الطريقة عددا هائلا من النسخ يفوق عدد الذرات المرصودة في الكون المرئي، ما يجعل كل جهاز فريدا تقريبا ويصعب على المهاجمين استخدام التسجيل نفسه عبر أجهزة متعددة. كما يمكن للمساعد الذكي تبديل النسخة دوريا لرفع مستوى الحماية. ويرى المطورون أن الأثر العملي الأكبر يكمن في التكلفة، لأن إعادة تدريب الأنظمة الذكية تتطلب وحدات معالجة رسومية مكلفة، بينما لا تحتاج هذه الدفاعات إلى ذلك. ويعد المشروع بتوازن نادر بين الأمن والكفاءة، إذ يحمي المستخدمين من عمليات فتح الأبواب أو تحويل الأموال بناء على أوامر صوتية غير مرئية، دون التأثير على سرعة الاستجابة أو تجربة الاستخدام. ويؤكد كويانغ زينغ أن الفريق يسعى إلى براءات اختراع وحوار مع شركات التقنية الكبرى لتسويق الحل، مع نشر موقع توضيحي يعرض أمثلة صوتية تظهر كيف ينتج التسجيل الضار نفسه نتائج مختلفة بين النسخ.