摘要
少样本分类（few-shot classification）面临的主要挑战在于，训练集与测试集之间的类别互不重叠，导致两者的数据分布存在显著差异。这种分布偏移（distribution shift）通常会导致模型泛化能力下降。已有研究表明，流形平滑（manifold smoothing）可通过扩展决策边界并降低类别表征中的噪声，有效缓解分布偏移问题。此外，流形平滑性也是半监督学习与归纳式学习（transductive learning）算法中的关键因素。在本研究中，我们提出将嵌入传播（embedding propagation）作为一种无监督的非参数正则化方法，用于少样本分类中的流形平滑。嵌入传播基于神经网络提取的特征构建相似性图，并利用图上的特征插值机制实现嵌入空间的平滑。实验结果表明，嵌入传播能够显著提升嵌入流形的平滑性。进一步地，我们将该方法应用于归纳式分类器，在 mini-Imagenet、tiered-Imagenet、ImageNet-FS 和 CUB 等多个基准数据集上均取得了新的最先进（state-of-the-art）性能。此外，我们在多种半监督学习场景中验证了该方法的有效性，结果显示嵌入传播可使模型准确率平均提升高达16个百分点，且表现稳定。所提出的嵌入传播操作可作为非参数层轻松集成至现有神经网络架构中，具有良好的通用性与可扩展性。相关训练代码与使用示例已开源，详见：https://github.com/ElementAI/embedding-propagation。