18日前
単語アテンションを超えて:ニューラル関係抽出におけるセグメントアテンションの活用
{Zhen-Yu Zhang, Bowen Yu, Tingwen Liu, Quangang Li, Bin Wang, Sujian Li}

要約
関係抽出は、文内のエンティティ対間の意味的関係を予測する問題を扱う。このタスクでは、単語を独立にソフト選択することで文内ノイズを軽減するため、注目メカニズム(attention mechanism)が頻繁に用いられる。関係に関連する情報は通常、文内の連続する語群(セグメント)に含まれているという観察に基づき、この現象を活用することで、より優れた抽出が可能となる。本研究では、このようなセグメント情報をニューラル関係抽出器に組み込むことを目的とする。提案手法は、注目メカニズムを、関係表現の所望の構造を符号化するエッジを持つ潜在変数の集合上の線形鎖型条件付き確率場(linear-chain conditional random fields)として捉え、注目重みを各単語が関係表現の一部として選択される周辺確率と解釈する。実験の結果、本手法は明示的なアノテーションなしに連続する関係表現に注目でき、大規模なTACREDデータセットにおいて最先端の性能を達成した。