النظرة الجبرية الموحدة لشبكات العصبيات ليبشيتزية

ركزت جهود بحثية مهمة على تصميم وتدريب شبكات عصبية ذات ثابت ليبشيتز متحكم فيه. الهدف هو زيادة وتضمين الحماية ضد الهجمات المعادية في بعض الأحيان. تقنيات حديثة وواعدة تستلهم أفكارها من خلفيات مختلفة لتصميم شبكات عصبية 1-ليبشيتز، ومن بينها: طبقات القدرة المحدبة التي تنتج من تجزئة النظم الديناميكية المستمرة، وطريقة الطبقات شبه المتعامدة (Almost-Orthogonal-Layer) التي تقترح طريقة مخصصة لإعادة تقييس المصفوفات.ومع ذلك، يصبح اليوم من الضروري النظر إلى المساهمات الحديثة والواعدة في هذا المجال عبر نظرة نظرية مشتركة لتحسين تصميم طبقات جديدة ومحسنة. يقدم هذا البحث منظورًا جبريًا جديدًا يوحّد أنواعًا مختلفة من شبكات عصبية 1-ليبشيتز، بما في ذلك تلك المذكورة سابقًا، بالإضافة إلى الطرق المستندة على التعامد والطرق الطيفية. بشكل مثير للإعجاب، أظهرنا أنه يمكن اشتقاق وإعمام العديد من التقنيات الموجودة عن طريق العثور على حلول تحليلية لشرط برمجة نصف محددة (SDP) مشترك. كما أثبتنا أن الطريقة شبه المتعامدة (AOL) تتحيز نحو إعادة تقييز الأوزان لتكون قريبة من مجموعة المصفوفات المتعامدة بطريقة رياضية معينة.بالإضافة إلى ذلك، يؤدي شرطنا الجبري بالاشتراك مع نظرية الدائرة الجيرشغورين (Gershgorin circle theorem) إلى إنتاج معلمات جديدة ومتنوعة لطبقات شبكة 1-ليبشيتز. يتيح لنا نهجنا الذي يُعرف بطبقات ليبشيتز المستندة على البرمجة النصف محددة (SLL) تصميم توسيع غير بديهي ولكنه فعال للطبقات ذات القدرة المحدبة. وأخيرًا، تظهر مجموعة شاملة من التجارب على تصنيف الصور أن طبقات SLL تتفوق على الأساليب السابقة في دقة الحماية المعتمدة. يمكن الوصول إلى الكود في الرابط التالي:https://github.com/araujoalexandre/Lipschitz-SLL-Networks.