要約
推測はテキストデータに自然に発生する現象であり、特にバイオメディカル情報検索分野において多くのシステムの重要な構成要素となっています。これまでの推測検出に関する研究では、cue検出と範囲解像（推測検出の2つのサブタスク）を対象として、ルールベースのシステムから深層学習ベースのアプローチまで多様な手法が提案されてきました。本論文では、3つの代表的なトランスフォーマーベースのアーキテクチャであるBERT、XLNet、およびRoBERTaを用いて、BioScopeコーパスとSFUレビューコーパスという2つの公開データセット上でこのタスクに取り組み、従来の結果に対して大幅な改善を報告しています（cue検出で少なくとも0.29 F1ポイント、範囲解像で4.27 F1ポイント以上の向上）。さらに、複数のデータセットでの共同学習も実験し、単一データセットでの学習アプローチよりも優れた性能を示しました。我々はXLNetが一貫してBERTやRoBERTaを上回る性能を示すことを観察しましたが、これは他のベンチマークデータセットでの結果とは異なります。この観察を確認するために、XLNetとRoBERTaを否定表現検出と範囲解像にも適用し、BioScopeコーパス（BioScope Full Papersで3.16 F1ポイント向上、BioScope Abstractsで0.06 F1ポイント向上）およびSFUレビューコーパス（0.3 F1ポイント向上）における否定表現範囲解像に関する最先端の結果を得ました。