Hinweise vor Antworten: generationserweiterte Multiple-Choice-Frage-Antwort

Ein aktueller Trend im Bereich der Multiple-Choice-Fragebeantwortung (MCQA) besteht darin, einen text-zu-Text-Ansatz zu verwenden. Durch die Vereinheitlichung von Daten aus verschiedenen Aufgaben in einem einheitlichen text-zu-Text-Format wird ein generativer Encoder-Decoder-Modell trainiert, das sowohl leistungsfähig als auch universell einsetzbar ist. Ein Nachteil dieser Herangehensweise, bei der das Generierungsziel an die Klassifikationsstruktur der MCQA angepasst wird, ist die unteroptimale Nutzung des Decoders und des darin enthaltenen Wissens. Um die Generierungsfähigkeit und das darin enthaltene Wissen eines vortrainierten Encoder-Decoder-Modells besser auszunutzen, schlagen wir in diesem Paper ein generierungsverstärktes MCQA-Modell namens GenMC vor. Es generiert zunächst eine Hinweisinformation aus der Frage und nutzt diesen Hinweis anschließend, um einen Leser für die MCQA zu verbessern. GenMC übertrifft text-zu-Text-Modelle auf mehreren MCQA-Datensätzen.