回転物体検出の再考：ガウス Wasserstein 距離損失を用いて

回転検出における回帰損失設計の課題として、境界の不連続性および最終検出指標との整合性の欠如が長年大きな障壁となってきました。本論文では、これを根本的に解決するため、ガウス・ワッサーシュタイン距離（Gaussian Wasserstein Distance, GWD）に基づく新たな回帰損失を提案します。具体的には、回転バウンディングボックスを2次元ガウス分布に変換することで、微分不可能な回転IoUに基づく損失を、勾配逆伝播によって効率的に学習可能なGWDにより近似します。このGWDは、特に小物体検出において頻発する2つの回転バウンディングボックス間に重複がない場合でも、依然として学習に有用な情報を提供できます。さらに、GWDが持つ3つの特徴により、バウンディングボックスの定義にかかわらず、境界の不連続性や正方形に近い形状の問題を洗練された形で解決可能です。異なる検出器を用いた5つのデータセットにおける実験により、本手法の有効性が実証されています。実装コードは、https://github.com/yangxue0827/RotationDetection および https://github.com/open-mmlab/mmrotate で公開されています。