Beibehaltung der Konsistenz: themenbewusste Geschichtenerzählung aus einem Bildstrom durch iterative Multi-Agenten-Kommunikation

Visual Storytelling zielt darauf ab, automatisch einen narrativen Textabschnitt aus einer Folge von Bildern zu generieren. Bestehende Ansätze erstellen für jedes Bild unabhängig eine Textbeschreibung und verketten diese grob zu einer Geschichte, was zu semantisch inkohärenten Inhalten führt. In diesem Artikel schlagen wir einen neuen Ansatz für das Visual Storytelling vor, indem wir eine Aufgabe zur Themenbeschreibung einführen, um den globalen semantischen Kontext einer Bildsequenz zu erkennen. Anschließend wird die Geschichte unter Anleitung der Themenbeschreibung erstellt. Um die beiden Generierungsaufgaben zu kombinieren, schlagen wir einen mehragentenbasierten Kommunikationsrahmen vor, bei dem der Generator der Themenbeschreibung und der Story-Generator als zwei Agenten betrachtet werden, die gleichzeitig über ein iteratives Aktualisierungsmechanismus gelernt werden. Wir validieren unseren Ansatz anhand des VIST-Datensatzes, wobei quantitative Ergebnisse, Ablationsstudien sowie menschliche Bewertungen die Fähigkeit unseres Verfahrens zur Erzeugung von Geschichten höherer Qualität im Vergleich zu aktuellen State-of-the-Art-Methoden belegen.