2ヶ月前

スタックされたハイブリッド注意機構とグループ協調学習を用いた偏りのないシーングラフ生成

Xingning Dong; Tian Gan; Xuemeng Song; Jianlong Wu; Yuan Cheng; Liqiang Nie
スタックされたハイブリッド注意機構とグループ協調学習を用いた偏りのないシーングラフ生成
要約

シーングラフ生成(Scene Graph Generation)は、一般的にエンコーダー-デコーダーのパイプラインを採用し、与えられた画像内の視覚的な内容をまずエンコードし、その後それをコンパクトなサマリーグラフに解析することを目指しています。既存のSGG手法は、視覚と言語間のモダリティ融合が不十分であることに加えて、偏った関係予測により情報量豊富な述語を提供できないため、実用的ではないという問題があります。この課題に対処するため、本論文ではまず新しいスタックハイブリッドアテンションネットワーク(Stacked Hybrid-Attention network)を提案します。このネットワークは、モーダル内での精製とモーダル間での相互作用を促進し、エンコーダーとして機能します。次に、革新的なグループ協調学習戦略(Group Collaborative Learning strategy)を開発してデコーダーの最適化を行います。特に、ある分類器の認識能力が極端に不均衡なデータセットに対して制限されるという観察に基づき、異なるクラスの部分集合を区別するのに専門的な一群の分類器を配置し、その二つの側面から協調的に最適化することで偏りのないSGGを促進します。VGおよびGQAデータセット上で行われた実験では、我々は偏りのない指標において新たな最先端を確立するとともに、二つのベースラインと比較して性能がほぼ倍になることを示しました。

スタックされたハイブリッド注意機構とグループ協調学習を用いた偏りのないシーングラフ生成 | 最新論文 | HyperAI超神経