2 个月前

VLCounter:面向文本的视觉表示用于零样本目标计数

Kang, Seunggu ; Moon, WonJun ; Kim, Euiyeon ; Heo, Jae-Pil
VLCounter:面向文本的视觉表示用于零样本目标计数
摘要

零样本目标计数(Zero-Shot Object Counting, ZSOC)旨在在查询图像中对任意类别的实例进行计数,而无需人工标注的示例。为了应对ZSOC,先前的研究提出了一种两阶段流程:发现示例和计数。然而,这种顺序设计的两阶段过程仍然存在错误传播的脆弱性问题。在这项工作中,提出了一种单阶段基线模型——视觉语言基线(Visual-Language Baseline, VLBase),该模型探索了CLIP中语义块嵌入之间的隐式关联。随后,通过引入三个模块来调整VLBase以适应目标计数任务,将其扩展为视觉语言计数器(Visual-language Counter, VLCounter)。首先,在图像编码器中引入了语义条件提示调优(Semantic-conditioned Prompt Tuning, SPT),以获得突出目标的表示。其次,使用可学习仿射变换(Learnable Affine Transformation, LAT)将语义块相似度图转换为适合计数任务的形式。最后,通过分段感知跳跃连接(Segment-aware Skip Connection, SaSC)将逐层编码的特征传递到解码器,以保持对未见过类别的一般化能力。通过在FSC147、CARPK和PUCPR+数据集上的大量实验,展示了端到端框架VLCounter的优势。

VLCounter:面向文本的视觉表示用于零样本目标计数 | 最新论文 | HyperAI超神经