探索付き学習が貪欲なStack-LSTMパーザの性能を向上させる

私たちは、Dyerら（2015）によって提案された貪欲なStack-LSTM依存関係解析器を、クロスエントロピー最小化ではなく、動的オラクル（GoldbergとNivre, 2013）を使用した探索付き学習手続きをサポートするように改良しました。この学習形式は、訓練時にモデルの予測を考慮し、誤りのない行動履歴を仮定することなく、英語と中国語の両方で解析精度の向上に寄与します。両言語に対して非常に優れた結果を得ました。また、確率的なニューラルネットワークにおいて探索付き学習が効果的に機能するために必要ないくつかの修正についても議論します。