FlowQA: Den Fluss der Geschichte für die konversationsbasierte maschinelle Verständigung erfassen

Die konversationsbasierte maschinelle Verstehensfähigkeit erfordert das Verständnis des Konversationsverlaufs, einschließlich früherer Frage/Antwort-Paare, des Dokumentkontexts und der aktuellen Frage. Um traditionellen, einstufigen Modellen zu ermöglichen, den Verlauf umfassend zu kodieren, stellen wir Flow vor, einen Mechanismus, der durch eine abwechselnde parallele Verarbeitungsstruktur Zwischendarstellungen integrieren kann, die während des Prozesses der Beantwortung früherer Fragen generiert wurden. Im Vergleich zu Ansätzen, die frühere Fragen/Antworten als Eingabe konkatenieren, integriert Flow die verborgenen Semantiken des Konversationsverlaufs tiefer. Unser Modell, FlowQA, zeigt überlegene Leistungen bei zwei kürzlich vorgeschlagenen konversationellen Herausforderungen (+7,2 % F1 auf CoQA und +4,0 % auf QuAC). Die Effektivität von Flow zeigt sich auch in anderen Aufgaben. Durch die Reduktion sequentieller Anweisungsverarbeitung auf konversationsbasiertes maschinelles Verstehen übertrifft FlowQA die besten Modelle in allen drei Bereichen von SCONE um +1,8 % bis +4,4 % in Bezug auf Genauigkeit.