HyperAIHyperAI

Command Palette

Search for a command to run...

Zu einer besseren substitutionsbasierten Wortsinninduktion

Asaf Amrami Yoav Goldberg

Zusammenfassung

Die Wortsinndeduktion (Word Sense Induction, WSI) ist die Aufgabe der unüberwachten Clusterverteilung von Wortverwendungen innerhalb eines Satzes, um verschiedene Bedeutungen zu unterscheiden. Kürzliche Arbeiten erzielten starke Ergebnisse durch das Clustern lexikalischer Ersatzwörter, die aus vorab trainierten RNN-Sprachmodellen (ELMo) abgeleitet wurden. Die Anpassung dieser Methode an BERT verbessert die Scores noch weiter. Wir erweitern die bisherige Methode, um eine dynamische statt eine feste Anzahl von Clustern zu unterstützen, wie dies auch von anderen prominenten Methoden unterstützt wird, und schlagen eine Methode zur Interpretation der resultierenden Cluster vor, indem diese mit ihren informativsten Ersatzwörtern in Verbindung gebracht werden. Anschließend führen wir eine umfangreiche Fehleranalyse durch, die die verbleibenden Fehlerquellen bei der WSI-Aufgabe aufdeckt.Unser Code ist unter https://github.com/asafamr/bertwsi verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Zu einer besseren substitutionsbasierten Wortsinninduktion | Paper | HyperAI