2ヶ月前

注目度にさらに焦点を当てる: 注目度と文脈の注意を使用した画像キャプション生成

Marcella Cornia; Lorenzo Baraldi; Giuseppe Serra; Rita Cucchiara
注目度にさらに焦点を当てる: 注目度と文脈の注意を使用した画像キャプション生成
要約

画像キャプション生成は、深層キャプションアーキテクチャによる印象的な成果により、最近注目を集めています。これらのアーキテクチャは、画像表現を抽出する畳み込みニューラルネットワーク(CNN)と、対応するキャプションを生成する再帰型ニューラルネットワーク(RNN)を組み合わせています。同時に、視覚的注目度予測モデルの開発にも多くの研究が費やされており、これらのモデルは人間の視線位置を予測することができます。しかし、注目度情報が画像キャプション生成アーキテクチャに有用である可能性があるにもかかわらず、つまり注目すべき部分とそうでない部分の指標を提供できるにもかかわらず、これらの2つの技術を組み込む研究はまだ難航しています。本研究では、視覚的注目度予測モデルによって画像のどの部分が注目すべきで、どの部分が文脈的なものであるかという条件付けを利用し、異なる入力画像の部分に焦点を当てる生成再帰型ニューラルネットワークを使用した画像キャプション生成手法を提案します。大規模データセットにおける広範な定量的および定性的実験を通じて示すように、我々のモデルは注目度情報を使用した場合と使用しない場合の基準となるキャプション生成手法だけでなく、注目度とキャプション生成を組み合わせた異なる最先端アプローチよりも優れた性能を達成しています。

注目度にさらに焦点を当てる: 注目度と文脈の注意を使用した画像キャプション生成 | 最新論文 | HyperAI超神経