異種知識の転送におけるビデオ感情認識、属性付けおよび要約

感情はユーザ生成ビデオにおいて重要な要素です。しかし、ユーザ生成コンテンツの複雑さと非構造性、ならびに感情を表現するビデオフレームの希少性により、そのようなビデオで伝えられる感情を理解することは困難です。本論文では初めて、画像やテキストデータを含む異種外部ソースからの知識転送の問題を研究し、ビデオ感情理解に関連する3つのタスク（感情認識、感情帰属、感情指向要約）を支援することを目指します。具体的には、当該フレームワークは（1）補助的な感情画像データセットからビデオエンコーディングを学習することで監督付きビデオ感情認識の精度向上を図り、（2）補助的なテキストコーパスから知識を転送してゼロショット認識により訓練中に見られなかった感情クラスの認識を行うことを可能にします。提案された知識転送技術は新たな感情帰属および感情指向要約の応用を促進します。複数のデータセットに対する包括的な実験結果が当該フレームワークの有効性を示しています。