2ヶ月前
TAMER: 手書き数式認識用のTree-Aware Transformer
Zhu, Jianhua ; Zhao, Wenqi ; Li, Yu ; Hu, Xingjian ; Gao, Liangcai

要約
手書き数式認識(HMER)は自動採点やオフィス自動化に広範な応用が見られます。しかし、既存のシーケンスベースのデコーディング手法は、$\LaTeX$ シーケンスを直接予測するものであり、$\LaTeX$ の固有の木構造を理解しモデル化することが難しく、デコード結果での文法的正しさを確保できないことがしばしばあります。これらの課題に対処するために、我々は新しいモデルである TAMER(Tree-Aware Transformer)を提案します。TAMER は、木構造に注目した革新的なモジュール(Tree-aware Module)を導入しながら、Transformer の柔軟性と効率的な学習を維持しています。TAMER はシーケンスデコーディングと木デコーディングモデルの両方の利点を取り入れ、シーケンス予測タスクと木構造予測タスクを同時最適化することで、複雑な数式構造に対するモデルの理解力と汎化能力を向上させます。推論時には、TAMER が木構造予測スコアリングメカニズム(Tree Structure Prediction Scoring Mechanism)を使用して生成された $\LaTeX$ シーケンスの構造的妥当性を向上させます。CROHME データセットにおける実験結果は、TAMER が従来のシーケンスデコーディングおよび木デコーディングモデルよりも優れた性能を示しており、特に複雑な数式構造の処理において最先端(SOTA)の成果を達成しています。