基于高斯Wasserstein距离损失的旋转目标检测再思考

边界不连续性及其与最终检测指标之间的不一致性，一直是旋转目标检测回归损失函数设计中的瓶颈问题。本文提出一种基于高斯Wasserstein距离（Gaussian Wasserstein Distance, GWD）的新型回归损失函数，作为解决该问题的根本性方法。具体而言，将旋转边界框转换为二维高斯分布，从而利用可微的高斯Wasserstein距离近似原本不可微的旋转IoU损失，该距离可通过梯度反向传播高效学习。即使两个旋转边界框之间不存在重叠（这在小目标检测中十分常见），GWD仍能提供有效的学习信号。得益于其三项独特性质，GWD能够优雅地解决边界不连续性问题以及“方形化”问题，且不依赖于边界框的具体定义方式。在五个不同数据集上，使用多种检测器进行的实验验证了所提方法的有效性。代码已开源，分别位于：https://github.com/yangxue0827/RotationDetection 和 https://github.com/open-mmlab/mmrotate。