2ヶ月前
PromptNER: 名詞認識のためのプロンプト位置特定とタイプ分類
Yongliang Shen; Zeqi Tan; Shuhui Wu; Wenqi Zhang; Rongsheng Zhang; Yadong Xi; Weiming Lu; Yueting Zhuang

要約
プロンプト学習は、事前学習済み言語モデルを活用する新しいパラダイムであり、多くのタスクで大きな成功を収めています。NER(固有表現認識)タスクにおけるプロンプト学習の採用には、対称的な視点から2つの手法が探索されています。1つは、スパンを列挙してテンプレートを充填し、それらのエンティティタイプを予測する方法で、もう1つは、タイプ固有のプロンプトを作成してエンティティの位置を特定する方法です。しかし、これらの手法は多段階のプロンプティングが必要で時間的負荷と計算コストが高く、また精巧なプロンプトテンプレートが必要であるため、実際のシナリオでの適用が困難です。本論文では、エンティティの位置特定とタイプ分類をプロンプト学習に統合し、位置スロットとタイプスロットを持つ双方向マルチプロンプトテンプレートを設計しました。このテンプレートにより、複数のプロンプトをモデルに同時に入力でき、モデルはスロット上の並列予測によってすべてのエンティティを抽出します。訓練中にスロットにラベルを割り当てるために、我々はプロンプトと正解エンティティ間の拡張二部グラフマッチングを使用した動的なテンプレート充填メカニズムを設計しました。我々は豊富なリソースを持つ平坦およびネストされたNERデータセットや低リソースのドメイン内およびクロスドメインデータセットなど、さまざまな設定での実験を行いました。実験結果は、提案されたモデルが顕著な性能向上を達成しており、特にクロスドメイン少ショット設定において平均+7.7%という改善率で最先端モデルを超えることを示しています。