HyperAIHyperAI
vor 2 Monaten

PromptNER: Prompt-basierte Lokalisierung und Klassifizierung für die Erkennung benannter Entitäten

Yongliang Shen; Zeqi Tan; Shuhui Wu; Wenqi Zhang; Rongsheng Zhang; Yadong Xi; Weiming Lu; Yueting Zhuang
PromptNER: Prompt-basierte Lokalisierung und Klassifizierung für die Erkennung benannter Entitäten
Abstract

Prompt Learning ist ein neues Paradigma zur Nutzung vortrainierter Sprachmodelle und hat in vielen Aufgaben große Erfolge erzielt. Um Prompt Learning für die Named Entity Recognition (NER) zu nutzen, wurden zwei Methoden aus symmetrischen Perspektiven untersucht: die Bevölkerung von Vorlagen durch Aufzählung von Spannen, um deren Entitätstypen vorherzusagen, oder die Konstruktion typspezifischer Prompts, um Entitäten zu lokalisieren. Diese Methoden erfordern jedoch nicht nur eine mehrstufige Prompting-Strategie mit hohem zeitlichem Overhead und Rechenaufwand, sondern auch sorgfältig gestaltete Prompt-Vorlagen, die in praktischen Szenarien schwer anwendbar sind. In dieser Arbeit vereinigen wir die Lokalisierung und Klassifizierung von Entitäten in das Prompt Learning und entwerfen eine Dual-Slot Multi-Prompt-Vorlage mit Positionsslot und Typenslot, um jeweils die Lokalisierung und Klassifizierung zu steuern. Mehrere Prompts können gleichzeitig dem Modell eingegeben werden, wodurch das Modell alle Entitäten durch parallele Vorhersagen auf den Slots extrahiert. Um während des Trainings Labels für die Slots zuzuweisen, entwickeln wir einen dynamischen Vorlagenfüllmechanismus, der die erweiterte bipartite Graphen-Zuordnung zwischen Prompts und den tatsächlichen Entitäten verwendet. Wir führen Experimente in verschiedenen Einstellungen durch, einschließlich ressourcenreicher flacher und verschachtelter NER-Datensätze sowie ressourcenärmerer in-domänen- und cross-domänen-Datensätze. Die experimentellen Ergebnisse zeigen, dass das vorgeschlagene Modell eine signifikante Leistungsverbesserung erreicht, insbesondere im cross-domänen Few-Shot-Einstellungsszenario, wo es im Durchschnitt das state-of-the-art-Modell um +7,7 % übertrifft.

PromptNER: Prompt-basierte Lokalisierung und Klassifizierung für die Erkennung benannter Entitäten | Neueste Forschungsarbeiten | HyperAI