Command Palette

Search for a command to run...

4ヶ月前

ラベル埋め込みを用いたコアテンションネットワークによるテキスト分類

{Qing Du Junyi Cao Lizhao Liu Minqian Liu}

ラベル埋め込みを用いたコアテンションネットワークによるテキスト分類

要約

現在のテキスト分類手法の多くは、高次元の識別性を持つテキスト表現を抽出することに注力しているが、こうした手法は一般的に計算効率が低いという課題を抱えている。この問題を緩和するため、ラベル埋め込み(label embedding)フレームワークが提案されており、ラベルからテキストへのアテンション機構を用いることで、ラベル情報を直接的に活用してテキスト表現を構築することで、より効率的なテキスト分類を実現している。これらのラベル埋め込み手法は有望な成果を上げているものの、ラベル情報をより効果的に活用する方法についてはまだ多くの余地が残されている。本研究では、テキストからラベルへのアテンションを用いて、テキストに注目されたラベル表現をさらに構築することで、ラベル情報の有効活用を目指す。そのため、テキストとラベルを相互に注目する表現に統合的に符号化する「ラベル埋め込みを備えたコアテンションネットワーク(Coattention Network with Label Embedding: CNLE)」を提案する。このアプローチにより、モデルはテキストとラベルの両方の関連部分に注目することができる。実験の結果、本手法は7つの多クラス分類ベンチマークおよび2つの多ラベル分類ベンチマークにおいて、従来の最先端手法と比較して競争力のある性能を達成した。

ベンチマーク

ベンチマーク方法論指標
multi-label-text-classification-on-aapdCNLE
Micro F1: 71.7
multi-label-text-classification-on-reuters-1CNLE
Micro-F1: 89.9

AI で AI を構築

アイデアからローンチまで — 無料の AI 共同コーディング、すぐに使える環境、最適価格の GPU で AI 開発を加速。

AI 共同コーディング
すぐに使える GPU
最適価格
今すぐ始める

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
ラベル埋め込みを用いたコアテンションネットワークによるテキスト分類 | 論文 | HyperAI超神経