UniMSE：統一的マルチモーダルセンチメント分析と感情認識への道

マルチモーダル感情分析（MSA）および会話中の感情認識（ERC）は、コンピュータが人間の行動を理解するための重要な研究課題である。心理学的視点から見ると、感情（emotion）は短時間にわたる感情的反応や感覚の表現であるのに対し、感情（sentiment）はより長期間にわたって形成され保持されるものである。しかし、既存の多くは感情と感情を別々に扱っており、両者の間にある補完的な知識を十分に活用していない。本研究では、特徴量、ラベル、モデルの観点からMSAとERCのタスクを統一するマルチモーダル感情知識共有フレームワーク（UniMSE）を提案する。本フレームワークでは構文レベルおよび意味レベルでのモダリティ統合を実施し、モダリティ間およびサンプル間における対照学習（contrastive learning）を導入することで、感情と感情の違いおよび一貫性をより適切に捉えることを目指す。公開ベンチマークデータセット（MOSI、MOSEI、MELD、IEMOCAP）における実験結果から、提案手法の有効性が確認され、最先端手法と比較して一貫した性能向上が得られた。