注意に基づくアンサンブル手法を用いた深層計量学習

深層計量学習は、深層ニューラルネットワークとしてモデル化された埋め込み関数を学習することを目指しています。この埋め込み関数は通常、学習した埋め込み空間において意味的に類似した画像を近づけ、非類似の画像を遠ざけるように設計されています。最近では、アンサンブル手法が深層計量学習に適用され、最先端の結果を達成しています。アンサンブルの重要な側面の一つとして、学習者が特徴ベクトルにおいて多様性を持つことが求められます。これを実現するために、私たちは複数の注意マスクを使用するアテンションベースのアンサンブル手法を提案します。これにより、各学習者はオブジェクトの異なる部分に注目することができます。また、私たちは多様性を促進するためのダイバージェンス損失も提案します。提案手法は標準的な深層計量学習ベンチマークに適用され、実験結果は画像検索タスクにおいて既存の最先端手法よりも大幅に優れていることを示しています。