HyperAIHyperAI
منذ 2 أشهر

التعلم متعدد المستويات والمهام الديناميكي لتبسيط الجمل

Han Guo; Ramakanth Pasunuru; Mohit Bansal
التعلم متعدد المستويات والمهام الديناميكي لتبسيط الجمل
الملخص

يهدف تبسيط الجمل إلى تحسين القابلية للقراءة والفهم، وذلك من خلال عدة عمليات مثل التقسيم والحذف وإعادة الصياغة. ومع ذلك، يجب أن تكون الجملة المبسطة الصحيحة مترتبةً منطقيًا على جملتها الأصلية. في هذا البحث، نقدم أولاً نموذج تبسيط جمل قوي يعتمد على آلية الإشارة-النسخ (pointer-copy mechanism)، ثم نحسن قدراته على الترتب المنطقي وإعادة الصياغة عبر التعلم متعدد المهام مع مهمات مساعدة ذات صلة في مجال الترتب المنطقي وإعادة الصياغة. بالإضافة إلى ذلك، نقترح نهجًا جديدًا لمشاركة طبقات "متعددة المستويات" (multi-level) حيث تشترك كل مهمة مساعدة في طبقات مختلفة (أعلى مقابل أدنى) من نموذج تبسيط الجمل، اعتمادًا على طبيعة المهمة الدلالية مقابل الطبيعة اللفظية-النحوية. كما نقدم أيضًا نهجًا جديدًا للتدريب يستند إلى العصابات المتعددة الذراع (multi-armed bandit) والذي يتعلم بشكل ديناميكي كيفية التحويل الفعال بين المهام أثناء التعلم متعدد المهام. أظهرت التجارب على عدة مجموعات بيانات شائعة أن نموذجنا يتفوق على أنظمة التبسيط التنافسية في مقاييس الأتمتة SARI وFKGL وفي التقييم البشري. علاوة على ذلك، قمنا بتقديم العديد من تحليلات الاستبعاد حول طرق مشاركة الطبقات البديلة، المشاركة الناعمة مقابل القاسية، أساليب العصابات المتعددة الذراع الديناميكية، ومهارات النموذج المكتسبة في الترتب المنطقي وإعادة الصياغة.

التعلم متعدد المستويات والمهام الديناميكي لتبسيط الجمل | أحدث الأوراق البحثية | HyperAI