BERT-basierte Ensembles zur Modellierung von Offenlegung und Unterstützung in conversationalen sozialen Medientexten

Es besteht ein wachsendes Interesse daran, zu verstehen, wie Menschen Gespräche initiieren und aufrechterhalten. Die affektive Verständnis von Gesprächen konzentriert sich auf die Frage, wie Sprecher Emotionen einsetzen, um auf eine Situation und aufeinander zu reagieren. Im Rahmen des CL-Aff Shared Task veröffentlichten die Organisatoren die Get it #OffMyChest-Datenbank, die Reddit-Kommentare aus informellen und vertraulichen Gesprächen enthält, die hinsichtlich ihrer Offenheit und Unterstützungsqualität annotiert sind. In diesem Paper stellen wir ein prädiktives Ensemble-Modell vor, das finetune Kontextualisierungen von Wortembeddings, nämlich RoBERTa und ALBERT, nutzt. Wir zeigen, dass unser Modell die Basismodelle in allen betrachteten Metriken übertrifft und eine Verbesserung des F1-Scores um 3 % erzielt. Zudem führen wir eine statistische Analyse durch und gewinnen tiefere Einblicke in die gegebene Datenbank, wobei wir eine neue Charakterisierung des Einflusses dieser Datenbank vorlegen.