11日前

修正による学習:弱教師付き手法を用いた数学文章問題の解決

Yining Hong, Qing Li, Daniel Ciao, Siyuan Huang, Song-Chun Zhu
修正による学習:弱教師付き手法を用いた数学文章問題の解決
要約

数学文章問題(MWPs)に対する従来のニューラルソルバーは、完全な教師あり学習によって学習されており、多様な解法の生成に失敗している。本論文では、この課題に対処するため、MWPsの学習にための「弱教師あり(weakly-supervised)」枠組みを提案する。本手法は、最終的な答えのラベルのみを必要とし、一つの問題に対して多様な解法を生成可能である。弱教師あり学習の性能向上のため、我々は新たな「修正による学習(learning-by-fixing, LBF)」フレームワークを提案する。このフレームワークは、記号的推論を用いてニューラルネットワークの誤った認識を修正する。具体的には、ニューラルネットワークが生成した誤った解法木に対して、「修正(fixing)」機構が根ノードから葉ノードへと誤差を伝播させ、目的の答えを得るために実行可能な最も確率の高い修正を推論する。多様な解法の生成を促進するために、「木正則化(tree regularization)」を導入し、解法空間の効率的な縮小と探索を促進する。さらに、各問題に対して発見された多様な修正を追跡・保存するための「メモリバッファ(memory buffer)」を設計した。Math23Kデータセットにおける実験結果から、提案するLBFフレームワークは、弱教師あり学習において強化学習ベースの手法を顕著に上回ることが示された。さらに、完全教師あり手法と比較してトップ1の正答率は同等でありながら、トップ3およびトップ5の正答率は大幅に優れていることから、多様な解法を生成する能力の優位性が確認された。

修正による学習:弱教師付き手法を用いた数学文章問題の解決 | 最新論文 | HyperAI超神経