Tabellebasierte Faktverifizierung mit Salienz-bewusstem Lernen

Tabellen bieten wertvolles Wissen, das zur Überprüfung textbasierter Aussagen genutzt werden kann. Obwohl mehrere Arbeiten sich mit der Tatsachenüberprüfung auf Basis von Tabellen beschäftigt haben, sind direkte Zuordnungen zwischen tabellarischen Daten und Token in textuellen Aussagen selten verfügbar. Darüber hinaus erfordert die Ausbildung eines generalisierten Modells für die Tatsachenüberprüfung reichlich beschriftete Trainingsdaten. In dieser Arbeit schlagen wir ein neues System vor, um diese Probleme anzugehen. Inspiriert durch kontrafaktische Kausalität identifiziert unser System die Token-Level-Bedeutung in der Aussage mittels probebasierten Bedeutungsschätzens (probing-based salience estimation). Das Bedeutungsschätzen ermöglicht eine verbesserte Lernmethode für die Tatsachenüberprüfung aus zwei Perspektiven. Aus einer Perspektive führt unser System Maskierte Bedeutsame-Token-Vorhersage durch, um das Modell in Bezug auf die Zuordnung und Schlussfolgerung zwischen Tabelle und Aussage zu verbessern. Aus der anderen Perspektive wendet unser System bedeutsamkeitsbewusste Datenaugmentierung an, um durch Ersetzen nicht-bedeutsamer Terme eine vielfältigere Menge an Trainingsinstanzen zu generieren. Experimentelle Ergebnisse auf TabFact zeigen die effektive Verbesserung durch die vorgeschlagenen bedeutsamkeitsbewussten Lernmethoden, was zu neuen Spitzenleistungen im Benchmark führt. Unser Code ist öffentlich unter https://github.com/luka-group/Salience-aware-Learning verfügbar.