HyperAIHyperAI
منذ 2 أشهر

تقييم فائدة الميزات اليدوية في تسمية التسلسلات

Minghao Wu; Fei Liu; Trevor Cohn
تقييم فائدة الميزات اليدوية في تسمية التسلسلات
الملخص

الحكمة التقليدية تشير إلى أن الخصائص اليدوية غير ضرورية للنماذج التعلم العميقة، حيث أنها تتعلم بالفعل تمثيلات كافية للنص بشكل تلقائي من المجموعات النصية. في هذا البحث، نختبر هذه الفرضية من خلال اقتراح طريقة جديدة لاستغلال الخصائص اليدوية كجزء من أسلوب تعلم هجين جديد، يضم مكون خسارة مُشفِّر الخصائص تلقائيًا (Feature Auto-Encoder Loss). قمنا بتقييم الأداء على مهمة التعرف على الكيانات المسماة (NER)، حيث أظهرنا أن إضافة الخصائص اليدوية للوظائف النحوية وأشكال الكلمات والقوائم المرجعية يمكن أن تحسن أداء نموذج CRF العصبي. حققنا درجة $F_1$ بلغت 91.89 للمهمة المشتركة CoNLL-2003 الإنجليزية، والتي تتخطى بشكل كبير مجموعة من النماذج الأساسية ذات الأداء العالي. كما قدمنا دراسة تقليصية توضح أهمية الترميز التلقائي مقارنة باستخدام الخصائص كمدخلات أو مخرجات فقط، وعلاوة على ذلك، أظهرنا أن إضافة مكونات المُشفِّر التلقائي يقلل متطلبات التدريب إلى 60٪ مع الحفاظ على الدقة التنبؤية نفسها.

تقييم فائدة الميزات اليدوية في تسمية التسلسلات | أحدث الأوراق البحثية | HyperAI