
要約
特定対象感情分類(Targeted Sentiment Classification)は、特定の対象に対する感情的な傾向を判定することを目指しています。これまでの多くの手法では、RNN(再帰型ニューラルネットワーク)とアテンション機構を使用して文脈と対象語をモデル化していました。しかし、RNNは並列処理が難しく、時間方向でのバックプロパゲーションの切り捨て(Truncated Backpropagation Through Time)により長期的なパターンを記憶することが困難です。本論文では、この問題に対処するために、再帰を排除し、文脈と対象の間のモデル化にアテンションに基づくエンコーダーを用いた注意エンコーダーネットワーク(Attentional Encoder Network: AEN)を提案します。また、ラベルの信頼性低下問題を取り上げ、ラベルスムージング正則化を導入します。さらに、事前学習済みのBERTをこのタスクに適用し、新たな最先端の結果を得ました。実験と分析によって、当モデルの有効性と軽量性が示されています。