要約
否定は言語の重要な特性であり、テキストからの情報抽出の主要な構成要素です。このサブタスクは、特にバイオメディカル分野において非常に重要です。長年にわたり、この問題に対処するために様々なアプローチが探索されてきました：ルールベースシステム、機械学習分類器、条件付き確率場モデル（Conditional Random Field Models）、CNN（Convolutional Neural Networks）そして最近ではBiLSTM（Bidirectional Long Short-Term Memory）などがあります。本論文では、転移学習をこの問題に適用することを探ります。まず、否定検出と範囲解像度に関する過去の文献を3つの人気のあるデータセットについて広範にレビューします：BioScopeコーパス、Sherlockデータセット、およびSFUレビューコーパスです。次に、このタスクでBERT（Bidirectional Encoder Representations from Transformers）という人気のある転移学習モデルを使用する際の意思決定の選択肢を検討し、3つのデータセットすべてでの最新の範囲解像度結果を報告します。我々のモデルであるNegBERTは、Sherlockデータセットでの範囲解像度におけるトークンレベルF1スコアで92.36、BioScope Abstractsサブコーパスで95.68、BioScope Full Papersサブコーパスで91.24、SFUレビューコーパスで90.95を達成し、以前の最先端システムを大幅に上回る性能を示しました。また、モデルが訓練されていないデータセットへの汎化能力も分析しています。