HyperAIHyperAI
منذ 2 أشهر

حول نمذجة الجمل العصبية القائمة على الأشجار

Haoyue Shi; Hao Zhou; Jiaze Chen; Lei Li
حول نمذجة الجمل العصبية القائمة على الأشجار
الملخص

أظهرت الشبكات العصبية ذات المُشفِّرات الجملية القائمة على الأشجار نتائج أفضل في العديد من المهام اللاحقة. تعتمد معظم المُشفِّرات الجملية القائمة على الأشجار الحالية على أشجار تحليل النحو كهيكل مسبق صريح. لدراسة فعالية الهياكل المختلفة للأشجار، قمنا بتبديل أشجار التحليل بنماذج أشجار بسيطة (مثل شجرة ثنائية متوازنة، وشجرة فروع يسارية، وشجرة فروع يمينية) في المُشفِّرات. رغم أن هذه الأشجار البسيطة لا تحتوي على معلومات نحوية، حققت تلك المُشفِّرات نتائج تنافسية أو حتى أفضل في جميع العشرة مهام اللاحقة التي درسناها. هذا النتيجة المفاجئة تشير إلى أن الإرشاد النحوي الصريح قد لا يكون الساهم الرئيسي في الأداء المتفوق للنمذجة الجملية العصبية القائمة على الأشجار. تحليل إضافي يظهر أن نمذجة الأشجار تعطي نتائج أفضل عندما تكون الكلمات الأساسية أقرب إلى التمثيل النهائي. تقدم التجارب الإضافية المزيد من الدلائل حول كيفية تصميم مُشفِّر قائم على الأشجار بشكل فعال. الكود الخاص بنا مفتوح المصدر ومتوفر على الرابط https://github.com/ExplorerFreda/TreeEnc.

حول نمذجة الجمل العصبية القائمة على الأشجار | أحدث الأوراق البحثية | HyperAI