Tiefes semantisches Rollenlabeling: Was funktioniert und was kommt als Nächstes

Wir stellen ein neues tiefes Lernmodell für die semantische Rollenlabelung (SRL) vor, das die bisherigen State-of-the-Art-Ergebnisse erheblich verbessert, sowie detaillierte Analysen, um dessen Stärken und Grenzen aufzudecken. Wir verwenden eine tiefe Highway-BiLSTM-Architektur mit eingeschränkter Decodierung und berücksichtigen eine Reihe aktueller Best Practices hinsichtlich Initialisierung und Regularisierung. Unser 8-Schichten-Ensemble-Modell erreicht eine F1-Score von 83,2 auf dem CoNLL-2005-Testset und 83,4 auf CoNLL-2012 – eine relative Fehlerreduktion von etwa 10 % gegenüber dem vorherigen State of the Art. Ausführliche empirische Analysen dieser Verbesserungen zeigen, dass (1) tiefe Modelle besonders gut darin sind, langstreckige Abhängigkeiten wiederherzustellen, dennoch jedoch überraschend offensichtliche Fehler begehen können, und dass (2) noch erhebliches Verbesserungspotenzial für syntaktische Parser besteht, um diese Ergebnisse weiter zu steigern.