شبكات الانتباه التكوينية للمنطق الآلي

نقدم شبكة MAC، وهي هندسة عصبية قابلة للتفاضل بالكامل ومبتكرة، مصممة لتسهيل التفكير الصريح والمعبر. تتجه الشبكة MAC بعيدًا عن الهندسات العصبية المتكاملة والمغلقة نحو تصميم يشجع على الشفافية والمرونة. تتعامل النموذج مع المشكلات من خلال تجزئتها إلى سلسلة من خطوات التفكير المستندة إلى الانتباه، يتم تنفيذ كل منها بواسطة خلية ذاكرة وانتباه وتركيب متكررة جديدة (MAC)، والتي تحافظ على الفصل بين التحكم والذاكرة. من خلال ربط الخلايا معًا وفرض قيود هيكلية تنظم تفاعلها، تتعلم الشبكة MAC بفعالية أداء عمليات التفكير المتكرر التي تستنتج مباشرة من البيانات بطريقة شاملة. نوضح قوة النموذج ومتانته وقابلية فهمه على مجموعة بيانات CLEVR الصعبة للتفكير البصري، حيث حققنا دقة غير مسبوقة بلغت 98.9٪، مما يقلل معدل الخطأ للنموذج الأفضل السابق بمقدار النصف. وأكثر أهمية من ذلك، نظهر أن النموذج كفاءة حاسوبية وكفاءة في استخدام البيانات، خاصة أنه يحتاج إلى بيانات أقل بخمس مرات مما تحتاجه النماذج الحالية لتحقيق نتائج قوية.