2ヶ月前

数式生成のための表現木デコード戦略

Wenqi Zhang; Yongliang Shen; Qingpeng Nong; Zeqi Tan; Yanna Ma; Weiming Lu
数式生成のための表現木デコード戦略
要約

自然言語から数学の式を生成するには、数式間の関係性を正確に理解することが必要です。既存のアプローチは、トークンレベルと表現レベルの生成に大別できます。前者は方程式を数学的な言語として扱い、順次的に数式トークンを生成します。後者では、各表現が解法ステップを表すため、これらのステップ間に並列または依存関係が自然に存在しますが、現在の順次方法ではこれが無視されています。したがって、我々は木構造を表現レベルの生成に統合し、表現木デコーディング戦略を提唱します。各層で表現(ノード)を持つ木を生成するために、層ごとの並列デコーディング戦略を使用します:各層で複数の独立した表現(葉ノード)を並列にデコードし、層ごとに並列デコーディングを繰り返して他の表現に依存する親ノード表現を順次生成します。さらに、二部マッチングアルゴリズムを使用して各層での複数予測と注釈との対応付けを行います。実験結果は、特に構造が複雑な方程式において、当手法が他のベースラインを超えることを示しています。

数式生成のための表現木デコード戦略 | 最新論文 | HyperAI超神経