HyperAIHyperAI

Command Palette

Search for a command to run...

النظرة الجبرية الموحدة لشبكات العصبيات ليبشيتزية

Alexandre Araujo Aaron Havens Blaise Delatte Alexandre Allauzen Bin Hu

الملخص

ركزت جهود بحثية مهمة على تصميم وتدريب شبكات عصبية ذات ثابت ليبشيتز متحكم فيه. الهدف هو زيادة وتضمين الحماية ضد الهجمات المعادية في بعض الأحيان. تقنيات حديثة وواعدة تستلهم أفكارها من خلفيات مختلفة لتصميم شبكات عصبية 1-ليبشيتز، ومن بينها: طبقات القدرة المحدبة التي تنتج من تجزئة النظم الديناميكية المستمرة، وطريقة الطبقات شبه المتعامدة (Almost-Orthogonal-Layer) التي تقترح طريقة مخصصة لإعادة تقييس المصفوفات.ومع ذلك، يصبح اليوم من الضروري النظر إلى المساهمات الحديثة والواعدة في هذا المجال عبر نظرة نظرية مشتركة لتحسين تصميم طبقات جديدة ومحسنة. يقدم هذا البحث منظورًا جبريًا جديدًا يوحّد أنواعًا مختلفة من شبكات عصبية 1-ليبشيتز، بما في ذلك تلك المذكورة سابقًا، بالإضافة إلى الطرق المستندة على التعامد والطرق الطيفية. بشكل مثير للإعجاب، أظهرنا أنه يمكن اشتقاق وإعمام العديد من التقنيات الموجودة عن طريق العثور على حلول تحليلية لشرط برمجة نصف محددة (SDP) مشترك. كما أثبتنا أن الطريقة شبه المتعامدة (AOL) تتحيز نحو إعادة تقييز الأوزان لتكون قريبة من مجموعة المصفوفات المتعامدة بطريقة رياضية معينة.بالإضافة إلى ذلك، يؤدي شرطنا الجبري بالاشتراك مع نظرية الدائرة الجيرشغورين (Gershgorin circle theorem) إلى إنتاج معلمات جديدة ومتنوعة لطبقات شبكة 1-ليبشيتز. يتيح لنا نهجنا الذي يُعرف بطبقات ليبشيتز المستندة على البرمجة النصف محددة (SLL) تصميم توسيع غير بديهي ولكنه فعال للطبقات ذات القدرة المحدبة. وأخيرًا، تظهر مجموعة شاملة من التجارب على تصنيف الصور أن طبقات SLL تتفوق على الأساليب السابقة في دقة الحماية المعتمدة. يمكن الوصول إلى الكود في الرابط التالي:https://github.com/araujoalexandre/Lipschitz-SLL-Networks.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
النظرة الجبرية الموحدة لشبكات العصبيات ليبشيتزية | مستندات | HyperAI