الانحدار النواتي المُخرَّط العميق للتنبؤ الهيكلي

باستخدام خدعة النواة في فضاء الإخراج، توفر الخسائر المُحَفَّزة بالنواة طريقة مبدئية لتعريف مهام التنبؤ بالإخراج المُعَرَّف بالهيكل لمجموعة واسعة من أنماط الإخراج. بشكل خاص، تم استخدامها بنجاح في سياق الانحدار اللامعلمي البديل، حيث يتم استغلال خدعة النواة عادةً في فضاء الإدخال أيضًا. ومع ذلك، عندما تكون الإدخالات صورًا أو نصوصًا، تبدو النماذج الأكثر تعبيرًا مثل الشبكات العصبية العميقة أكثر ملاءمة من الطرق اللامعلمية. في هذا العمل، نعالج السؤال حول كيفية تدريب الشبكات العصبية لحل مهام التنبؤ بالإخراج المُعَرَّف بالهيكل، مع الاستمرار في الاستفادة من متانة ومصداقية الخسائر المُحَفَّزة بالنواة. نصمم عائلة جديدة من هياكل الشبكات العصبية العميقة، والتي يتنبأ طبقتها الأخيرة في فضاء جزئي محدد ببيانات ذو أبعاد محدودة من فضاء الخصائص غير المحدود الأبعاد الذي ينتج عن الخسارة المُحَفَّزة بالنواة. يتم اختيار هذا الفضاء الجزئي كمساحة الخطوط الخاصة للنسخة التقريبية العشوائية للمشغل المشترك لنواة البيانات التجريبية (empirical kernel covariance operator). وبشكل مثير للاهتمام، فإن هذه الطريقة تفتح الباب أمام استخدام خوارزميات التدرج الهابط (ومن ثم أي هيكل عصبي) للتنبؤ الهيكلي. أظهرت التجارب على المهام الصناعية وكذلك مشاكل التنبؤ الرقابي للرسوم البيانية الحقيقية صلة طريقتنا.