HyperAIHyperAI

Command Palette

Search for a command to run...

単語アテンションを超えて:ニューラル関係抽出におけるセグメントアテンションの活用

Zhen-Yu Zhang Bowen Yu Tingwen Liu Quangang Li Bin Wang Sujian Li

概要

関係抽出は、文内のエンティティ対間の意味的関係を予測する問題を扱う。このタスクでは、単語を独立にソフト選択することで文内ノイズを軽減するため、注目メカニズム(attention mechanism)が頻繁に用いられる。関係に関連する情報は通常、文内の連続する語群(セグメント)に含まれているという観察に基づき、この現象を活用することで、より優れた抽出が可能となる。本研究では、このようなセグメント情報をニューラル関係抽出器に組み込むことを目的とする。提案手法は、注目メカニズムを、関係表現の所望の構造を符号化するエッジを持つ潜在変数の集合上の線形鎖型条件付き確率場(linear-chain conditional random fields)として捉え、注目重みを各単語が関係表現の一部として選択される周辺確率と解釈する。実験の結果、本手法は明示的なアノテーションなしに連続する関係表現に注目でき、大規模なTACREDデータセットにおいて最先端の性能を達成した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
単語アテンションを超えて:ニューラル関係抽出におけるセグメントアテンションの活用 | 記事 | HyperAI超神経