التمثيلات الطيفية للشبكات العصبية التلافيفية

توفّر تحويلات فورييه المنفصلّة تسريعًا كبيرًا في حساب التوافقيات في التعلم العميق. في هذا البحث، نوضح أن المجال الطيفي يوفر أيضًا تمثيلًا قويًا لنمذجة وتدريب شبكات العصب الاصطناعية التوافقية (CNNs) بخلاف مزاياه في الحساب الفعّال.نستخدم التمثيلات الطيفية لتقديم عدد من الابتكارات في تصميم شبكات CNN. أولاً، نقترح التجميع الطيفي (Spectral Pooling)، الذي يقوم بتقليل البعد من خلال تقليم التمثيل في المجال الترددي. يحافظ هذا النهج على معلومات أكثر بكثير لكل معامل مقارنة بالاستراتيجيات الأخرى للتجميع، ويتيح المرونة في اختيار بُعد خرج التجميع. يمكّن هذا التمثيل أيضًا من شكل جديد من التنظيم العشوائي عن طريق تعديل الدقة بشكل عشوائي. نظهر أن هذه الطرق تحقق نتائج تنافسية في مهمات التصنيف والتقرير، دون استخدام أي إسقاط أو تجميع أقصى (Max-Pooling).أخيرًا، نثبت فعالية التعاميم المعقدة ذات المعاملات الطيفية لمرشحات التوافقيات. بينما لا يتغير النموذج الأساسي، فإنه يؤدي إلى تمثيل يسهل بشكل كبير عملية الأمثلة. نلاحظ على مجموعة متنوعة من تكوينات CNN الشهيرة أن هذا يؤدي إلى تقارب أسرع بكثير أثناء التدريب.