18日前
教師ありエンティティリンクにおける事前学習戦略の実証的評価
Thibault Févry, Nicholas FitzGerald, Livio Baldini Soares, Tom Kwiatkowski

要約
本研究では、Wikipediaのリンク情報を用いた大規模事前学習とTransformerアーキテクチャを組み合わせたエンティティリンクモデルを提案する。本モデルは、広く用いられている2つのエンティティリンクデータセットにおいて、最先端の性能を達成しており、CoNLLでは96.7%、TAC-KBPでは94.9%の精度を記録した。また、エンティティリンクにおける設計選択の重要性を解明するための詳細な分析を提示する。具体的には、ネガティブなエンティティ候補の選定、Transformerアーキテクチャの選択、入力の摂動(input perturbations)に関する検討を行った。さらに、より困難な設定、例えばエンドツーエンド型エンティティリンクやドメイン内学習データなしでのエンティティリンクにおいても、有望な結果を示した。