HyperAIHyperAI
منذ 15 أيام

Auto-GNN: بحث التصميم المعماري العصبي للشبكات العصبية الرسومية

Kaixiong Zhou, Qingquan Song, Xiao Huang, Xia Hu
Auto-GNN: بحث التصميم المعماري العصبي للشبكات العصبية الرسومية
الملخص

تم تطبيق الشبكات العصبية الرسومية (GNN) بنجاح على البيانات ذات الهيكل الرسومي. في سياق معين، يُستلزم عادةً توفر خبرة بشرية غنية وجهود بحثية كبيرة لتحديد بنية GNN المناسبة. وذلك لأن أداء بنية GNN يتأثر بشكل كبير باختيار مكونات التصفية الرسومية، مثل دالة التجميع وعدد الأبعاد المخفية. وقد أظهرت تقنيات البحث عن الهيكل العصبي (NAS) إمكاناتها في اكتشاف الهياكل العميقة الفعّالة لمهام التعلم في مجالات معالجة الصور ونمذجة اللغة. ومع ذلك، لا يمكن تطبيق الخوارزميات الحالية لـ NAS مباشرة على مشكلة بحث الهياكل في GNN. أولًا، يختلف فضاء البحث الخاص بـ GNN عن الفضاءات المستخدمة في الدراسات السابقة المتعلقة بـ NAS. ثانيًا، تتغير قدرة التعلم التمثيلي لبنية GNN بشكل ملحوظ حتى مع تعديلات طفيفة في البنية، مما يؤثر سلبًا على كفاءة الطرق التقليدية للبحث. ثالثًا، قد تصبح تقنيات شائعة الاستخدام في NAS، مثل مشاركة المعلمات، غير مستقرة في سياق GNN.لسد هذه الفجوة، نقترح إطارًا تلقائيًا للشبكات العصبية الرسومية (AGNN)، والذي يهدف إلى اكتشاف البنية المثلى لـ GNN ضمن فضاء بحث مُعرّف مسبقًا. تم تصميم مُتحكم مبني على التعلم التفعيلي (reinforcement learning) لفحص البنية بشكل جشع من خلال خطوات صغيرة. كما يمتاز AGNN باستراتيجية مشاركة معلمات مبتكرة تتيح مشاركة المعلمات بين البنية المتجانسة، بناءً على تعريف دقيق للتجانس. أظهرت التجارب على مجموعات بيانات معيارية حقيقية أن البنية التي تم اكتشافها بواسطة AGNN تحقق أفضل أداء مقارنة بالأنماط اليدوية الحالية والطرق التقليدية للبحث.

Auto-GNN: بحث التصميم المعماري العصبي للشبكات العصبية الرسومية | أحدث الأوراق البحثية | HyperAI