手書きテキスト認識のためのシーケンス・ツー・シーケンスモデルの評価

エンコーダー-デコーダーモデルは、機械翻訳、画像キャプション生成、音声認識などのシーケンス学習タスクにおいて効果的なアプローチとなりましたが、手書き文字認識では競争力のある結果を示すことができていません。本研究では、注意メカニズムに基づくシーケンス・ツー・シーケンスモデルを提案します。このモデルは、一般的な特徴量抽出器としての畳み込みニューラルネットワーク（CNN）と、入力画像内の視覚的情報および文字間の時系列コンテキストを符号化するための再帰型ニューラルネットワーク（RNN）を組み合わせています。また、別のRNNを使用して実際の文字列を復号化します。私たちは様々な注意メカニズムと位置エンコーディングの間で実験的な比較を行い、入力シーケンスと出力シーケンスの適切なアライメントを見つけることを目指しています。このモデルはエンドツーエンドで学習可能であり、ハイブリッド損失のオプション的な統合により、必要に応じてエンコーダーが解釈可能かつ利用可能な出力を保持することができます。IAMデータセットおよびICFHR2016 READデータセットにおいて、言語モデルを使用せずに最先端技術と同等の競争力のある結果を達成し、最近のシーケンス・ツー・シーケンスアプローチよりも大幅に改善しました。