16日前

共参照解消における高次推論の神話を暴く

Liyan Xu, Jinho D. Choi
共参照解消における高次推論の神話を暴く
要約

本稿では、高次推論(Higher-Order Inference, HOI)が共参照解決(coreference resolution)タスクに与える影響を分析する。近年の多くの共参照解決モデルがHOIを採用しているものの、その表現学習における本質的な有効性については十分な検証が行われていない。包括的な分析を行うために、エンドツーエンド型の共参照解決システムと、注目された前件(attended antecedent)、エンティティ等価化(entity equalization)、スパンクラスタリング(span clustering)、クラスタマージング(cluster merging)の4種類のHOIアプローチを実装した。後者の2つは本研究で提案する独自の手法である。その結果、SpanBERTのような高性能なエンコーダを用いる場合、HOIの影響は逆効果または限定的であることが明らかになった。これは、共参照解決タスクにおけるHOIの役割について新たな視点を提供する。本研究で得られた最良のモデル(クラスタマージングを採用)は、英語のCoNLL 2012共有タスクデータセットにおいて平均F1スコア80.2を達成した。

共参照解消における高次推論の神話を暴く | 最新論文 | HyperAI超神経