18日前

ラベルのレビュー:関係抽出のためのTop-k予測セットを備えたラベルグラフネットワーク

Bo Li, Wei Ye, Jinglei Zhang, Shikun Zhang
ラベルのレビュー:関係抽出のためのTop-k予測セットを備えたラベルグラフネットワーク
要約

関係抽出の一般的な手法は、タスク固有のデータセット上で大規模な事前学習済み言語モデルを微調整し、出力分布における確率が最も高いラベルを最終予測として選ぶ方法である。しかし、与えられたサンプルに対してTop-k予測集合を活用するという点は、しばしば無視されがちである。本論文では、まず、与えられたサンプルのTop-k予測集合が正しいラベルを予測する上で有用な情報を含んでいることを明らかにする。このTop-k予測集合を効果的に活用するため、本研究では「Top-k予測集合を用いたラベルグラフネットワーク(Label Graph Network with Top-k Prediction Set)」を提案し、これをKLGと呼ぶ。具体的には、与えられたサンプルに対して、Top-k予測集合内の候補ラベルを評価するラベルグラフを構築し、それらのラベル間の関係性を学習する。さらに、より強力で識別力の高い関係表現を学習できるように、動的k選択機構を設計した。実験の結果、KLGは3つの関係抽出データセットにおいて最良の性能を達成した。また、KLGは長尾クラス(long-tailed classes)に対する処理において特に効果的であることが観察された。