التدريب المسبق والتعلم: الحفاظ على المعلومات العالمية لشبكات التعلم الرسومية

أظهرت الشبكات العصبية الرسومية (GNNs) قوة كبيرة في التعلم على الرسوم البيانية المزودة بسمات. ومع ذلك، لا يزال يمثل تحديًا أمام الشبكات العصبية الرسومية استغلال المعلومات البعيدة عن العقدة المصدرية. علاوةً على ذلك، تتطلب الشبكات العصبية الرسومية العامة مدخلات من السمات الرسومية، مما يجعلها غير قابلة للتطبيق على الرسوم البيانية البسيطة. في هذه الورقة، نقترح نماذج جديدة تُسمى G-GNNs (المعلومات العالمية للشبكات العصبية الرسومية) لمعالجة هذه القيود. أولاً، يتم استخراج السمات الهيكلية والسمات الخاصة بكل عقدة من خلال التدريب المسبق غير المراقب، وذلك لحفظ المعلومات العالمية المرتبطة بكل عقدة. ثم، وباستخدام السمات العالمية والمدخلات الأصلية للشبكة، نقترح إطارًا متوازيًا للشبكات العصبية الرسومية لاستخلاص جوانب مختلفة من هذه السمات. يمكن تطبيق طرق التعلم المقترحة على كل من الرسوم البيانية البسيطة والرسوم البيانية المزودة بسمات. أظهرت التجارب الواسعة أن نماذج G-GNNs يمكنها التفوق على نماذج الحالة الحالية في ثلاث رسوم بيانية معيارية للتجريب. وبشكل خاص، تمكنت طرقنا من إقامة سجلات جديدة كمعيار مرجعي على بيانات Cora (84.31٪) وPubmed (80.95٪) عند التعلم على الرسوم البيانية المزودة بسمات.