HyperAIHyperAI
منذ 11 أيام

التدريب الدقيق المُراعي للهيكل لمحولات التسلسل إلى التسلسل لتحليل AMR القائم على الانتقال

Jiawei Zhou, Tahira Naseem, Ramón Fernandez Astudillo, Young-Suk Lee, Radu Florian, Salim Roukos
التدريب الدقيق المُراعي للهيكل لمحولات التسلسل إلى التسلسل لتحليل AMR القائم على الانتقال
الملخص

تمثيل التمثيل المفهومي الخطي (AMR) باستخدام نماذج التحويلة التسلسلية المُدرّبة مسبقًا (Transformer) قد أدى مؤخرًا إلى تحسينات كبيرة في معايير تحليل AMR. تتميز هذه المحلّلات بالبساطة وتجنب نمذجة البنية بشكل صريح، لكنها تعاني من غياب خصائص مرغوبة مثل ضمان صحة الرسم البياني أو التوافق المدمج بين الرسم البياني والجملة. في هذه الدراسة، نستكشف دمج النماذج التسلسلية المُدرّبة مسبقًا العامة مع نهج انتقالي يراعي البنية. نبدأ من نظام انتقالي يعتمد على المؤشرات، ونقترح مجموعة مبسطة من الانتقالات، مصممة للاستفادة الأفضل من النماذج اللغوية المُدرّبة مسبقًا في التدريب المهيكل. كما نستعرض نمذجة حالة المحلّل داخل بنية المُشفّر-المُفكّك المُدرّب مسبقًا واستراتيجيات مختلفة في تشكيل القاموس لتحقيق نفس الهدف. نقدّم مقارنة مفصلة مع التطورات الحديثة في تحليل AMR، ونُظهر أن المحلّل المقترح يحتفظ بالخصائص المرغوبة للنهج الانتقالي السابقة، مع بساطته، وبلوغه الحالة الراهنة في تحليل AMR 2.0، دون الحاجة إلى إعادة تصنيف الرسوم البيانية.

التدريب الدقيق المُراعي للهيكل لمحولات التسلسل إلى التسلسل لتحليل AMR القائم على الانتقال | أحدث الأوراق البحثية | HyperAI