Multimodales Differenzierungsnetzwerk für die Generierung visueller Fragen

Die Erstellung natürlicher Fragen aus einem Bild ist eine semantische Aufgabe, die das Verwenden von visueller und sprachlicher Modalität erfordert, um multimodale Repräsentationen zu lernen. Bilder können mehrere visuelle und sprachliche Kontexte aufweisen, die für die Frageerstellung relevant sind, insbesondere Orte, Bildunterschriften und Schlagwörter. In dieser Arbeit schlagen wir die Verwendung von Exemplaren vor, um den relevanten Kontext zu erhalten. Dies erreichen wir durch den Einsatz eines Multimodalen Differenzialnetzes (Multimodal Differential Network), das natürliche und ansprechende Fragen erzeugt. Die generierten Fragen zeigen eine bemerkenswerte Ähnlichkeit zu natürlichen Fragen, wie durch eine menschliche Studie bestätigt wurde. Darüber hinaus beobachten wir, dass der vorgeschlagene Ansatz bei den quantitativen Metriken (BLEU, METEOR, ROUGE und CIDEr) erheblich über den Stand der Technik hinausgeht.