Recherche d'architecture différentiable améliorée pour la modélisation du langage et la reconnaissance d'entités nommées

Dans cet article, nous étudions les méthodes de recherche différentiable d'architecture (NAS) appliquées au traitement du langage naturel. Plus précisément, nous améliorons la recherche d'architecture différentiable en éliminant la contrainte softmax-locale. Par ailleurs, nous appliquons la NAS différentiable à la reconnaissance d'entités nommées (NER). Il s'agit pour la première fois que des méthodes de NAS différentiable soient adoptées dans des tâches du traitement du langage naturel autres que le modèle de langage. Sur les données de modélisation du langage PTB et de NER anglais CoNLL-2003, notre méthode surpasser des baselines puissantes, atteignant ainsi un nouveau record sur la tâche de NER.