HyperAIHyperAI
منذ 2 أشهر

قراء الانتباه المُحكم لفهم النصوص

Bhuwan Dhingra; Hanxiao Liu; Zhilin Yang; William W. Cohen; Ruslan Salakhutdinov
قراء الانتباه المُحكم لفهم النصوص
الملخص

في هذا البحث، ندرس مشكلة الإجابة على أسئلة من نوع "الملء بالكلمات المفقودة" في الوثائق. نموذجنا، القارئ ذو الانتباه المحكوم (Gated-Attention - GA Reader)، يدمج معمارية متعددة الخطوات مع آلية انتباه جديدة، والتي تعتمد على التفاعلات الضربية بين تمثيل الاستفسار والحالات الوسيطة لشبكة عصبية متكررة تقرأ الوثيقة. هذا يمكّن القارئ من بناء تمثيلات محددة للاستفسار لكلمات الوثيقة لاختيار الإجابة بدقة. حقق القارئ GA أفضل النتائج الحالية في ثلاثة مقاييس لهذه المهمة--قصص الأخبار من CNN وDaily Mail ومجموعة بيانات "من قام بماذا" (Who Did What). فعالية التفاعل الضريبي تُثبت من خلال دراسة تقليصية، وبالمقارنة مع مشغّلات تركيب بديلة لتنفيذ الانتباه المحكوم. الرمز البرمجي متاح على https://github.com/bdhingra/ga-reader.

قراء الانتباه المُحكم لفهم النصوص | أحدث الأوراق البحثية | HyperAI