Command Palette
Search for a command to run...
QA-GNN: Wissensträger und Sprachmodelle für die Fragebeantwortung nutzen
QA-GNN: Wissensträger und Sprachmodelle für die Fragebeantwortung nutzen
Michihiro Yasunaga Hongyu Ren Antoine Bosselut Percy Liang Jure Leskovec
Zusammenfassung
Das Problem der Beantwortung von Fragen unter Verwendung von Wissen aus vortrainierten Sprachmodellen (LMs) und Wissensgraphen (KGs) stellt zwei Herausforderungen dar: Angesichts eines QA-Kontextes (Frage und Antwortoption) müssen Methoden (i) relevante Informationen aus großen KGs identifizieren und (ii) ein gemeinsames Schließen über den QA-Kontext und den KG durchführen. In dieser Arbeit schlagen wir ein neues Modell, QA-GNN, vor, das die genannten Herausforderungen durch zwei wesentliche Innovationen bewältigt: (i) Relevanzbewertung, bei der wir LMs verwenden, um die Bedeutung von KG-Knoten im Hinblick auf den gegebenen QA-Kontext abzuschätzen, und (ii) gemeinsames Schließen, bei dem wir den QA-Kontext und den KG zu einem gemeinsamen Graphen verbinden und ihre Darstellungen durch Graph-Neuronale Netze gegenseitig aktualisieren. Wir evaluieren unser Modell anhand von QA-Benchmarks in den Bereichen Alltagswissen (CommonsenseQA, OpenBookQA) und Biomedizin (MedQA-USMLE). QA-GNN übertrifft bestehende LM- und LM+KG-Modelle und zeigt Fähigkeiten zur interpretierbaren und strukturierten Schlussfolgerung, z.B. die korrekte Behandlung von Verneinungen in Fragen.