Aspect-based Sentiment Analysis における Attention と Lexicon 正則化 LSTM

アテンションを活用した深層学習システムは、意見抽出（aspect-level sentiment analysis）において最先端の手法として実証されている。しかし、エンドツーエンドの深層ニューラルネットワークは、特に追加の学習データが得られない状況下では、明確な問題を容易に修正できないという柔軟性の欠如という課題を抱えている。例えば、「disappointed（がっかりした）」という語を検出すると常に「ポジティブ」と予測してしまうような誤りは、ネットワークの構造上、簡単に修正が困難である。一方で、アテンション機構が文の特定の部分に過度に注目し、極性判断に重要な情報を含む他の部分を無視してしまう「過集中（over-focus）」の傾向については、あまり注目されていない。本論文では、語彙情報（lexicon information）を活用するシンプルかつ効果的なアプローチを提案し、モデルの柔軟性と頑健性を向上させる。さらに、アテンションベクトルに対する正則化を検討することで、ネットワークが文の異なる部分に対してより広範な「注目範囲（focus）」を持つようにする効果についても調査した。実験結果から、本手法の有効性が明らかになった。