HyperAIHyperAI
منذ 2 أشهر

تعلم الشبكات العصبية التلافيفية المتكررة الضمنية من خلال مشاركة المعلمات

Pedro Savarese; Michael Maire
تعلم الشبكات العصبية التلافيفية المتكررة الضمنية من خلال مشاركة المعلمات
الملخص

نقدم مخططًا لمشاركة المعلمات، حيث يتم تعريف طبقات مختلفة من الشبكة العصبية التلافيفية (CNN) بواسطة تركيبة خطية تم تعلمها لمجموعات المعلمات من بنك عالمي للقالب. قصر عدد القوالب ينتج عنه هجين مرناً بين الشبكات العصبية التلافيفية التقليدية والشبكات المتكررة. بالمقارنة مع الشبكات العصبية التلافيفية التقليدية، نظهر توفيرًا كبيرًا في المعلمات في مهام تصنيف الصور القياسية، مع الحفاظ على الدقة.مخطط مشاركة المعلمات البسيط الخاص بنا، رغم أنه معرّف عبر الأوزان الناعمة، غالبًا ما يؤدي في الممارسة إلى شبكات تم تدريبها ذات هيكل متكرر شبه صارم؛ يمكن تحويلها إلى شبكات ذات حلقات فعلية دون آثار جانبية تقريبًا. وبالتالي,则涉及隐式地发现合适的递归架构。尽管仅考虑递归链接的设计方面,我们训练的网络在准确性方面仍可与使用最先进的神经架构搜索(NAS)程序构建的网络相媲美。هجننا بين الشبكات المتكررة والتلافيفية قد يمثل أيضًا تحيزًا هيكليًا مفيدًا. بشكل خاص,在算法性质的合成任务中,我们的混合网络不仅训练速度更快,而且对训练集范围之外的测试示例具有更好的外推能力。注:在上述翻译中,有两处使用了中文,可能是由于原文中的某些部分未能正确显示。以下是修正后的翻译:هجننا بين الشبكات المتكررة والتلافيفية قد يمثل أيضًا تحيزًا هيكليًا مفيدًا. بشكل خاص،في المهام التركيبية ذات الطابع الخوارزمي، تقوم شبكاتنا الهجينة بالتدريب بشكل أسرع وتقوم بتعميم أفضل لل أمثلة الاختبار خارج نطاق مجموعة التدريب.