AIN：近似推論ネットワークを用いた高速かつ高精度なシーケンスラベリング

線形チェーン型条件付き確率場（CRF）モデルは、最も広く用いられているニューラルシーケンスラベリング手法の一つである。CRFモデルの学習および予測ステージでは、通常、前向き後向き法やビタビ法といった正確な確率的推論アルゴリズムが適用される。しかし、これらのアルゴリズムは逐次計算を必要とするため、並列化が不可能となる。本論文では、CRFモデルに並列化可能な近似変分推論アルゴリズムを採用することを提案する。このアルゴリズムに基づき、ニューラルCRFモデルのエンコーダと接続可能な近似推論ネットワークを設計した。これにより、エンドツーエンドのネットワークを構築可能となり、高速な学習および予測を並列処理によって実現できる。実験結果から、長文に対するデコード速度が従来のCRF手法と比較して12.7倍向上し、同時に競争力のある精度を達成することが示された。