単語とラベルの共同埋め込みによるテキスト分類

単語埋め込みは、テキストシーケンスの表現を学習する際に単語間の意味的な規則性を捉える効果的な中間表現です。本研究では、テキスト分類をラベルと単語の共同埋め込み問題として捉えることを提案します：各ラベルは単語ベクトルと同じ空間に埋め込まれます。また、テキストシーケンスとラベル間の埋め込みの適合性を測定するための注意枠組みを導入します。この注意は、ラベル付きサンプルの訓練セット上で学習され、与えられたテキストシーケンスに対して関連性のある単語が無関係な単語よりも高い重みを持つように設計されています。当手法は単語埋め込みの解釈可能性を維持し、入力テキストシーケンスに加えて他の情報源も活用できるという内在的な能力を持っています。複数の大規模テキストデータセットでの広範な実験結果は、提案された枠組みが精度と速度の両面で最先端の方法を大幅に上回ることを示しています。