要約
単語意味誘導（Word Sense Induction: WSI）は、文内の単語の使用を無教師学習でクラスタリングし、異なる意味を区別するタスクである。最近の研究では、事前学習されたRNN言語モデル（ELMo）から派生した辞書的置換語をクラスタリングすることで、強力な結果が得られている。本研究では、この手法をBERTに適応させることで、さらにスコアが向上することを示している。さらに、他の主要な手法と同様に固定ではなく動的なクラスタ数をサポートするように方法を拡張し、得られたクラスタを最も情報量の多い置換語と関連付けることで解釈する手法を提案している。その後、広範な誤り分析を行い、WSIタスクにおける残存する誤りの原因を明らかにしている。我々のコードは以下のURLから入手可能である: https://github.com/asafamr/bertwsi.