HyperAIHyperAI

Command Palette

Search for a command to run...

Transformersに基づくアーキテクチャを使用した推測と否定の範囲解消

Benita Kathleen Britto Aditya Khandelwal

概要

推測はテキストデータに自然に発生する現象であり、特にバイオメディカル情報検索分野において多くのシステムの重要な構成要素となっています。これまでの推測検出に関する研究では、cue検出と範囲解像(推測検出の2つのサブタスク)を対象として、ルールベースのシステムから深層学習ベースのアプローチまで多様な手法が提案されてきました。本論文では、3つの代表的なトランスフォーマーベースのアーキテクチャであるBERT、XLNet、およびRoBERTaを用いて、BioScopeコーパスとSFUレビューコーパスという2つの公開データセット上でこのタスクに取り組み、従来の結果に対して大幅な改善を報告しています(cue検出で少なくとも0.29 F1ポイント、範囲解像で4.27 F1ポイント以上の向上)。さらに、複数のデータセットでの共同学習も実験し、単一データセットでの学習アプローチよりも優れた性能を示しました。我々はXLNetが一貫してBERTやRoBERTaを上回る性能を示すことを観察しましたが、これは他のベンチマークデータセットでの結果とは異なります。この観察を確認するために、XLNetとRoBERTaを否定表現検出と範囲解像にも適用し、BioScopeコーパス(BioScope Full Papersで3.16 F1ポイント向上、BioScope Abstractsで0.06 F1ポイント向上)およびSFUレビューコーパス(0.3 F1ポイント向上)における否定表現範囲解像に関する最先端の結果を得ました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
Transformersに基づくアーキテクチャを使用した推測と否定の範囲解消 | 記事 | HyperAI超神経