HyperAIHyperAI
منذ 10 أيام

بحث مُحسَّن في التصميم القابل للتمايز للنماذج اللغوية وتمييز الكيانات المعرفية

{Yufan Jiang, Tong Xiao, Chunliang Zhang, Chi Hu, Jingbo Zhu}
بحث مُحسَّن في التصميم القابل للتمايز للنماذج اللغوية وتمييز الكيانات المعرفية
الملخص

في هذه الورقة البحثية، ندرس أساليب البحث المعماري العصبي القابل للتفاضل (NAS) في معالجة اللغة الطبيعية. وبشكل خاص، نحسن من أساليب البحث المعماري القابل للتفاضل من خلال إزالة قيد الـ softmax المحلي. كما نطبّق البحث المعماري القابل للتفاضل على مهمة التعرف على الكيانات المحددة (NER). ويشكل هذا أول مرة يتم فيها استخدام أساليب البحث المعماري القابل للتفاضل في مهام معالجة اللغة الطبيعية غير نمذجة اللغة. وتفوق طريقتنا البدائل القوية على كل من بيانات نمذجة اللغة PTB وبيانات NER الإنجليزية CoNLL-2003، وتُحقّق حالة متقدمة جديدة في مهمة NER.