Zeitbezogene Wissens-Fragebeantwortung mittels abstrakter Schlussfolgerungsinduktion

In dieser Studie behandeln wir die Herausforderung der Verbesserung der zeitlichen Wissensinferenz in großen Sprachmodellen (Large Language Models, LLMs). LLMs haben häufig Schwierigkeiten bei dieser Aufgabe, was zu ungenauen oder irreführenden Antworten führt. Dieses Problem ergibt sich hauptsächlich aus ihrer begrenzten Fähigkeit, sich veränderndes faktisches Wissen und komplexe zeitliche Logik zu verarbeiten. Um diese Einschränkungen zu überwinden, schlagen wir den Abstract Reasoning Induction (ARI)-Rahmen vor, der die zeitliche Inferenz in zwei verschiedene Phasen unterteilt: eine wissensunabhängige und eine wissensbasierte Phase. Dieser Rahmen bietet LLMs Unterstützung durch faktisches Wissen, während gleichzeitig die Aufnahme von zusätzlichen, störenden Daten minimiert wird. Gleichzeitig basierend auf den Prinzipien des Konstruktivismus ermöglicht ARI LLMs, proaktiv und selbstgesteuert aus sowohl korrekten als auch fehlerhaften historischen Inferenzbeispielen zu lernen. Indem wir LLMs beibringen, Wissen und Methoden aktiv aufzubauen, können ihre Fähigkeiten zur zeitlichen Inferenz erheblich gesteigert werden. Unser Ansatz erzielt bemerkenswerte Verbesserungen mit relativen Zuwächsen von 29,7 % und 9,27 % auf zwei temporalen QA-Datensätzen, was die Wirksamkeit unseres Ansatzes bei der Weiterentwicklung der zeitlichen Inferenz in LLMs unterstreicht. Der Quellcode ist unter https://github.com/czy1999/ARI-QA verfügbar.