Gemeinsames Lernen von vortrainierten und zufälligen Einheiten für die Domänenanpassung bei der Wortartenzuordnung

Das Feinjustieren von neuronalen Netzen wird häufig verwendet, um wertvolles Wissen von domänenreichen zu domänenarmen Bereichen zu übertragen. Bei einem standardmäßigen Feinjustierungsverfahren werden Quell- und Zielprobleme mit der gleichen Architektur trainiert. Obwohl in der Lage, sich an neue Domains anzupassen, haben vortrainierte Einheiten Schwierigkeiten, ungewöhnliche zieldomänenspezifische Muster zu lernen. In dieser Arbeit schlagen wir vor, das Zielnetzwerk mit normalisierten, gewichteten und zufällig initialisierten Einheiten zu erweitern, die eine bessere Anpassung ermöglichen, während sie das wertvolle Quellwissen beibehalten. Unsere Experimente zur Part-of-Speech-Tagging von Social-Media-Texten (Twitter-Domäne) zeigen, dass unsere Methode auf drei gängigen Datensätzen den aktuellen Stand der Technik erreicht.