2 个月前

EAGLE:基于特征聚合的对象中心无监督语义分割学习方法

Chanyoung Kim; Woojung Han; Dayun Ju; Seong Jae Hwang
EAGLE:基于特征聚合的对象中心无监督语义分割学习方法
摘要

语义分割长期以来一直依赖于大量的像素级标注数据,这促使了无监督方法的出现。在这些方法中,利用自监督视觉变换器进行无监督语义分割(USS)已经取得了稳步进展,生成了具有表现力的深度特征。然而,对于包含复杂对象的图像进行语义分割时,仍面临一个主要挑战:即在补丁级特征中缺乏显式的对象级语义编码。这一技术限制通常导致对具有多样结构的复杂对象的分割不足。为了解决这一问题,我们提出了一种新的方法——EAGLE,该方法强调以对象为中心的表示学习用于无监督语义分割。具体而言,我们引入了EiCue,一种光谱技术,通过从深度图像特征的语义相似度矩阵和图像的颜色亲和力中导出的特征基(eigenbasis),提供语义和结构线索。此外,通过结合我们的以对象为中心的对比损失与EiCue,我们引导模型学习具有图像内和图像间对象特征一致性的对象级表示,从而提高语义准确性。在COCO-Stuff、Cityscapes和Potsdam-3数据集上的大量实验表明,EAGLE在复杂场景中实现了准确且一致的语义分割,并达到了最先进的USS结果。