17日前

EPT-X:数値に対する説明を生成するためのExpression-Pointer Transformerモデル

{Gahgene Gweon, Sangkyu Rhim, Kyung Seo Ki, Bugeun Kim}
EPT-X:数値に対する説明を生成するためのExpression-Pointer Transformerモデル
要約

本稿では、代数的単語問題を解くために自然言語による説明を活用するニューラルモデル「EPT-X(Explanation-Pointer Transformer with Explanations)」を提案する。本モデルは、人間が数学的単語問題を解く際に用いる戦略から着想を得た「妥当性(plausibility)」と「忠実性(faithfulness)」の概念を採用することで、ニューラルモデルのエンコーディングプロセスの説明可能性を向上させている。妥当な説明とは、与えられた数学的単語問題に登場する数値や変数に関する文脈情報を含む説明を指す。忠実な説明とは、モデルが導出した解法式の背後にある推論過程を正確に反映している説明を意味する。EPT-Xモデルは、我々が構築したPENデータセットにおいて、平均69.59%のベースライン性能を達成し、生成する説明の質は人間の出力と比較しても同等の水準に達している。本研究の貢献は以下の2点に集約される。(1)EPT-Xモデル:モデルの正しさ、妥当性、忠実性の観点から、代数的単語問題解決タスクにおける新たなベースラインを提示する説明可能なニューラルモデル。(2)新データセット:各数値・変数に説明を付与した新たなデータセットPEN(Problems with Explanations for Numbers)を公開。これにより、既存のデータセットを拡張した。

EPT-X:数値に対する説明を生成するためのExpression-Pointer Transformerモデル | 最新論文 | HyperAI超神経