BERT-hLSTMs: BERT und hierarchische LSTMs für visuelle Geschichtenerzählung

Visuelle Geschichtenerzählung ist eine kreative und herausfordernde Aufgabe, die darauf abzielt, automatisch eine geschichtsähnliche Beschreibung für eine Folge von Bildern zu generieren. Die von früheren Ansätzen zur visuellen Geschichtenerzählung generierten Beschreibungen weisen aufgrund der Verwendung von Wort-Ebene-Sequenzgenerierungsmethoden und der unzureichenden Berücksichtigung von Satz-Ebene-Abhängigkeiten oft mangelnde Kohärenz auf. Um dieses Problem anzugehen, schlagen wir einen neuartigen hierarchischen Rahmen für die visuelle Geschichtenerzählung vor, der Satz- und Wort-Ebene-Semantik getrennt modelliert. Wir verwenden einen auf Transformer basierenden BERT, um Embeddings für Sätze und Wörter zu erzeugen. Anschließend setzen wir ein hierarchisches LSTM-Netzwerk ein: das untere LSTM erhält als Eingabe die Satzvektorrepräsentation aus BERT, um die Abhängigkeiten zwischen den Sätzen, die den Bildern entsprechen, zu lernen, während das obere LSTM für die Generierung der entsprechenden Wortvektorrepräsentationen zuständig ist und Eingaben vom unteren LSTM erhält. Experimentelle Ergebnisse zeigen, dass unser Modell die meisten verwandten Baselines hinsichtlich der automatischen Bewertungsmaße BLEU und CIDEr übertrifft und zudem die Wirksamkeit unseres Ansatzes auch in menschlichen Bewertungen belegt.