HyperAIHyperAI

Command Palette

Search for a command to run...

قياس وعلاج مشكلة التسطيح الزائد لشبكات التعلم الرسومية من منظور توبولوجي

Deli Chen Yankai Lin Wei Li Peng Li Jie Zhou Xu Sun

الملخص

لقد حققت الشبكات العصبية الرسومية (GNNs) أداءً واعدًا في مجموعة واسعة من المهام القائمة على الرسوم البيانية. وعلى الرغم من نجاحها، تظل إحدى القيود الجسيمة للـ GNNs هي مشكلة التسطيح الزائد (أي تمييز تمثيلات العقد في فئات مختلفة بشكل غير ممكن). في هذا العمل، نقدم دراسة منهجية وكمية لمشكلة التسطيح الزائد في الشبكات العصبية الرسومية. أولاً، نُقدِّم معيارين كميين، هما MAD وMADGap، لقياس تسطيح تمثيلات العقد في الرسوم البيانية ومستوى التسطيح الزائد على التوالي. ثم نُثبت أن التسطيح هو طبيعة جوهرية للـ GNNs، وأن العامل الحاسم المُسبب للتسطيح الزائد هو انخفاض نسبة المعلومات إلى الضوضاء في الرسائل الواردة إلى العقد، وهي نسبة تُحدد جزئيًا بواسطة هيكل الرسم البياني. وأخيرًا، نقترح طريقتين لتخفيف مشكلة التسطيح الزائد من منظور هيكل الرسم البياني: (1) MADReg، التي تضيف منظمًا مبنيًا على MADGap إلى الهدف التدريبي؛ و(2) AdaGraph، التي تقوم بتحسين هيكل الرسم البياني بناءً على توقعات النموذج. أظهرت تجارب واسعة على 7 مجموعات بيانات رسومية شائعة الاستخدام باستخدام 10 نماذج GNN نموذجية أن الطريقتين المقترحتين فعّالتان في تقليل مشكلة التسطيح الزائد، وبالتالي تحسين أداء مجموعة متنوعة من نماذج GNN.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp