HyperAIHyperAI
منذ شهر واحد

GCNet: شبكات غير محلية تلتقي بشبكات الضغط والتحفيز وما بعدها

Yue Cao; Jiarui Xu; Stephen Lin; Fangyun Wei; Han Hu
GCNet: شبكات غير محلية تلتقي بشبكات الضغط والتحفيز وما بعدها
الملخص

يقدم الشبكة غير المحلية (Non-Local Network - NLNet) نهجًا رائدًا لالتقاط الارتباطات طويلة المدى، من خلال تجميع السياق العالمي المحدد للطلب إلى كل موقع للطلب. ومع ذلك، من خلال تحليل تجريبي دقيق، اكتشفنا أن السياقات العالمية التي تم نمذجتها بواسطة الشبكة غير المحلية تكون متشابهة تقريبًا لمواقع الطلبات المختلفة داخل الصورة. في هذا البحث، نستفيد من هذه النتيجة لإنشاء شبكة مبسطة تعتمد على صياغة مستقلة عن الطلب، والتي تحافظ على دقة NLNet ولكن مع حساب أقل بكثير. كما لاحظنا أن هذا التصميم المبسط يشارك في بنية مشابهة لشبكة الضغط والإثارة (Squeeze-Excitation Network - SENet). لذلك، نقوم بتوحيدهما في إطار عام ثلاثي الخطوات لنمذجة السياق العالمي. ضمن هذا الإطار العام، قمنا بتصميم تنفيذ أفضل يُعرف باسم كتلة السياق العالمي (Global Context Block - GC)، وهي خفيفة الوزن ويمكنها نمذجة السياق العالمي بشكل فعال. يسمح لنا الخاصية الخفيفة بالوزن باستخدامه في طبقات متعددة من الشبكة الأساسية لإنشاء شبكة سياق عالمي (GCNet)، والتي تتفوق عمومًا على كل من NLNet المبسط وSENet في مقاييس رئيسية لمهام التعرف المختلفة. تم إصدار الكود والتكوينات في https://github.com/xvjiarui/GCNet.

GCNet: شبكات غير محلية تلتقي بشبكات الضغط والتحفيز وما بعدها | أحدث الأوراق البحثية | HyperAI