HyperAIHyperAI

Command Palette

Search for a command to run...

PromptNER: Prompt-basierte Lokalisierung und Klassifizierung für die Erkennung benannter Entitäten

Yongliang Shen; Zeqi Tan; Shuhui Wu; Wenqi Zhang; Rongsheng Zhang; Yadong Xi; Weiming Lu; Yueting Zhuang

Zusammenfassung

Prompt Learning ist ein neues Paradigma zur Nutzung vortrainierter Sprachmodelle und hat in vielen Aufgaben große Erfolge erzielt. Um Prompt Learning für die Named Entity Recognition (NER) zu nutzen, wurden zwei Methoden aus symmetrischen Perspektiven untersucht: die Bevölkerung von Vorlagen durch Aufzählung von Spannen, um deren Entitätstypen vorherzusagen, oder die Konstruktion typspezifischer Prompts, um Entitäten zu lokalisieren. Diese Methoden erfordern jedoch nicht nur eine mehrstufige Prompting-Strategie mit hohem zeitlichem Overhead und Rechenaufwand, sondern auch sorgfältig gestaltete Prompt-Vorlagen, die in praktischen Szenarien schwer anwendbar sind. In dieser Arbeit vereinigen wir die Lokalisierung und Klassifizierung von Entitäten in das Prompt Learning und entwerfen eine Dual-Slot Multi-Prompt-Vorlage mit Positionsslot und Typenslot, um jeweils die Lokalisierung und Klassifizierung zu steuern. Mehrere Prompts können gleichzeitig dem Modell eingegeben werden, wodurch das Modell alle Entitäten durch parallele Vorhersagen auf den Slots extrahiert. Um während des Trainings Labels für die Slots zuzuweisen, entwickeln wir einen dynamischen Vorlagenfüllmechanismus, der die erweiterte bipartite Graphen-Zuordnung zwischen Prompts und den tatsächlichen Entitäten verwendet. Wir führen Experimente in verschiedenen Einstellungen durch, einschließlich ressourcenreicher flacher und verschachtelter NER-Datensätze sowie ressourcenärmerer in-domänen- und cross-domänen-Datensätze. Die experimentellen Ergebnisse zeigen, dass das vorgeschlagene Modell eine signifikante Leistungsverbesserung erreicht, insbesondere im cross-domänen Few-Shot-Einstellungsszenario, wo es im Durchschnitt das state-of-the-art-Modell um +7,7 % übertrifft.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp