HyperAIHyperAI
vor 11 Tagen

PeTra: Ein sparsam überwachtes Gedächtnismodell für die Personenverfolgung

Shubham Toshniwal, Allyson Ettinger, Kevin Gimpel, Karen Livescu
PeTra: Ein sparsam überwachtes Gedächtnismodell für die Personenverfolgung
Abstract

Wir stellen PeTra vor, ein speichererweitertes neuronales Netzwerk, das darauf ausgelegt ist, Entitäten in seinen Speicherplätzen zu verfolgen. PeTra wird mit spärlicher Annotation aus dem GAP-Präpositionslösungs-Datensatz trainiert und erreicht auf der Aufgabe eine bessere Leistung als ein vorheriges Speichermodell, wobei eine einfachere Architektur verwendet wird. Wir führen eine empirische Analyse wesentlicher Modellierungsentscheidungen durch und stellen fest, dass mehrere Aspekte der Speichermodul-Designs vereinfacht werden können, ohne die Leistung signifikant zu beeinträchtigen. Um die Fähigkeit von Speichermodellen zur Personenverfolgung zu messen, (a) schlagen wir eine neue diagnostische Bewertungsmethode vor, die auf der Zählung der Anzahl eindeutiger Entitäten in Texten basiert, und (b) führen eine kleine Skalen-Mensch-Evaluation durch, um den Nachweis für Personenverfolgung in den Speicherprotokollen von PeTra im Vergleich zu einem vorherigen Ansatz zu bewerten. PeTra erzielt in beiden Evaluierungen eine hohe Effektivität und demonstriert damit seine Fähigkeit, Personen in seinem Speicher zu verfolgen, obwohl es mit begrenzter Annotation trainiert wurde.

PeTra: Ein sparsam überwachtes Gedächtnismodell für die Personenverfolgung | Neueste Forschungsarbeiten | HyperAI