RF-Next: بحث فعّال في مجال الاستقبال للشبكات العصبية التلافيفية

تحتل الحقول المستقبلية/المكانية للنماذج دورًا مهمًا في المهام التسلسلية/المكانية. فكلما كانت الحقول المستقبلية أكبر، زادت قدرتها على معالجة العلاقات الطويلة الأمد، بينما تساعد الحقول الصغيرة على التقاط التفاصيل المحلية بدقة. تعتمد الطرق الحالية على بناء النماذج باستخدام حقول مستقبلية مصممة يدويًا في الطبقات. هل يمكننا استكشاف توليفات الحقول المستقبلية بشكل فعّال لاستبدال الأنماط المصممة يدويًا؟ وللإجابة على هذا السؤال، نقترح طريقة بحث عالمية-محليّة لاستكشاف توليفات أفضل للحقول المستقبلية. تعتمد هذه الطريقة على بحث عالمي لتحديد توليفات خشنة ممكنة، تليها بحوث محلية لتحسين هذه التوليفات وجعلها أكثر دقة. يتيح البحث العالمي اكتشاف توليفات خشنة غير مبنية على الأنماط البشرية المصممة. وبناءً على نتائج البحث العالمي، نقترح خطة بحث محليّة تكرارية موجهة بالتوقع (expectation-guided iterative local search) لتحسين التوليفات بشكل فعّال. وقد أظهرت نماذج RF-Next، التي تدمج استكشاف الحقول المستقبلية مع نماذج مختلفة، تحسنًا ملحوظًا في أداء العديد من المهام، مثل تقسيم الأفعال الزمنية، وتحديد الكائنات، وتقسيم الكائنات الفردية، وتركيب الصوت. وتم إتاحة الشفرة المصدرية للجمهور عبر الرابط: http://mmcheng.net/rfnext.