2ヶ月前

BIERを用いた深層計量学習:独立埋め込みのロバスト性向上

Michael Opitz; Georg Waltner; Horst Possegger; Horst Bischof
BIERを用いた深層計量学習:独立埋め込みのロバスト性向上
要約

深層ニューラルネットワークを用いて画像ペア間の類似度関数を学習すると、埋め込みの活性化が非常に相関する。本研究では、アンサンブル内の独立性を活用することで、このような埋め込みの堅牢性を向上させる方法を示す。そのためには、深層ネットワークの最終埋め込み層を埋め込みアンサンブルに分割し、このアンサンブルの訓練をオンライン勾配ブースティング問題として定式化する。各学習者は、前の学習者から再重み付けされた訓練サンプルを受け取る。さらに、我々はアンサンブル内の多様性を増加させる2つの損失関数を提案する。これらの損失関数は、重み初期化または訓練中に適用できる。これらの一連の貢献により、埋め込みの相関を大幅に削減し、その結果として埋め込みの検索精度が向上する。我々の手法は任意の微分可能な損失関数と組み合わせることができ、テスト時には追加のパラメータを導入しない。我々は画像検索タスクにおいて計量学習手法を評価し、CUB 200-2011, Cars-196, Stanford Online Products, In-Shop Clothes Retrieval, VehicleID データセットで最先端の手法よりも優れた性能を示していることを確認した。