HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

ConSeC: Wortbedeutungsauflösung als kontinuierliche Sinnzusammenfassung

{Roberto Navigli Luigi Procopio Edoardo Barba}

ConSeC: Wortbedeutungsauflösung als kontinuierliche Sinnzusammenfassung

Abstract

Überwachte Systeme sind heute zum Standardansatz für die Wortsinndisambiguierung (Word Sense Disambiguation, WSD) geworden, wobei Sprachmodelle auf Basis von Transformers als zentrale Komponente dienen. Trotz ihrer beeindruckenden Leistungsfähigkeit unterliegen praktisch alle dieser Systeme einer einschränkenden Annahme: Gegeben ein Kontext, wird jeder Worttoken individuell disambiguiert, ohne Berücksichtigung der Sinnschätzungen benachbarter Wörter. Um diese Einschränkung zu überwinden und die Annahme aufzugeben, schlagen wir CONtinuous SEnse Comprehension (ConSeC) vor – einen neuartigen Ansatz zur WSD. Ausgehend von einer kürzlich vorgeschlagenen Neubewertung der Aufgabe als Textextraktionsproblem, adaptieren wir diese Formulierung für unseren Ansatz und führen eine Rückkopplungsstrategie ein, die es ermöglicht, die Disambiguierung eines Zielsymbols nicht nur auf dessen Kontext, sondern auch auf die explizit zugewiesenen Sinne benachbarter Wörter zu bedingen. Wir evaluieren ConSeC und analysieren, wie dessen Komponenten dazu beitragen, alle bisherigen Ansätze zu übertreffen und eine neue State-of-the-Art-Leistung auf dem Gebiet der englischen WSD zu erzielen. Zudem untersuchen wir die Leistung von ConSeC im mehrsprachigen Kontext, wobei wir acht Sprachen mit unterschiedlichem Grad an verfügbaren Ressourcen betrachten, und berichten über signifikante Verbesserungen gegenüber vorhergehenden Systemen. Unsere Implementierung ist unter https://github.com/SapienzaNLP/consec öffentlich verfügbar.

Benchmarks

BenchmarkMethodikMetriken
word-sense-disambiguation-on-supervisedConSeC
SemEval 2007: 77.4
SemEval 2013: 83.2
SemEval 2015: 85.2
Senseval 2: 82.3
Senseval 3: 79.9
word-sense-disambiguation-on-supervisedConSeC+WNGC
SemEval 2007: 78.5
SemEval 2013: 85.2
SemEval 2015: 87.5
Senseval 2: 82.7
Senseval 3: 81.0

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
ConSeC: Wortbedeutungsauflösung als kontinuierliche Sinnzusammenfassung | Forschungsarbeiten | HyperAI