QA-GNN: Wissensträger und Sprachmodelle für die Fragebeantwortung nutzen

Das Problem der Beantwortung von Fragen unter Verwendung von Wissen aus vortrainierten Sprachmodellen (LMs) und Wissensgraphen (KGs) stellt zwei Herausforderungen dar: Angesichts eines QA-Kontextes (Frage und Antwortoption) müssen Methoden (i) relevante Informationen aus großen KGs identifizieren und (ii) ein gemeinsames Schließen über den QA-Kontext und den KG durchführen. In dieser Arbeit schlagen wir ein neues Modell, QA-GNN, vor, das die genannten Herausforderungen durch zwei wesentliche Innovationen bewältigt: (i) Relevanzbewertung, bei der wir LMs verwenden, um die Bedeutung von KG-Knoten im Hinblick auf den gegebenen QA-Kontext abzuschätzen, und (ii) gemeinsames Schließen, bei dem wir den QA-Kontext und den KG zu einem gemeinsamen Graphen verbinden und ihre Darstellungen durch Graph-Neuronale Netze gegenseitig aktualisieren. Wir evaluieren unser Modell anhand von QA-Benchmarks in den Bereichen Alltagswissen (CommonsenseQA, OpenBookQA) und Biomedizin (MedQA-USMLE). QA-GNN übertrifft bestehende LM- und LM+KG-Modelle und zeigt Fähigkeiten zur interpretierbaren und strukturierten Schlussfolgerung, z.B. die korrekte Behandlung von Verneinungen in Fragen.