17 天前

基于多粒度对齐的时尚图像检索

Jinkuan Zhu, Hao Huang, Qiao Deng, Xiyao Li
基于多粒度对齐的时尚图像检索
摘要

时尚图像检索任务旨在从图像库中搜索与查询图像相关的服装物品。以往的方法主要集中在设计各类基于距离的损失函数,通过拉近相关图像对的距离、推远无关图像对的距离来提升检索性能。然而,这些方法忽略了服装图像中的细粒度特征(例如领口、袖口等)。为此,本文提出一种新型的时尚图像检索方法——多粒度对齐(Multi-Granular Alignment, MGA),该方法同时利用全局特征与细粒度特征。具体而言,我们设计了细粒度聚合模块(Fine-Granular Aggregator, FGA),用于捕捉并聚合图像中的精细纹理模式;进一步地,提出基于注意力的令牌对齐机制(Attention-based Token Alignment, ATA),以粗到细的方式在多粒度层级上对齐图像特征。为验证所提方法的有效性,我们在公开时尚数据集DeepFashion的两个子任务(In-Shop与Consumer2Shop)上进行了实验。实验结果表明,所提出的MGA方法在R@1指标上分别较当前最优方法提升了1.8%和0.6%。