零样本分类中的超维度计算

基于零样本学习（Zero-shot Learning, ZSL）的分类能力是指模型能够在未见过任何训练样本的新类别上对输入数据进行分类。为解决这一具有挑战性的任务，一种广受青睐的方法是提供辅助描述信息，即以一组描述新类别的属性（attributes）形式给出先验知识。受超维度计算（Hyperdimensional Computing, HDC）的启发，本文提出在属性编码器中使用静态二进制码本（stationary binary codebooks）来表示类符号化的分布式表示，从而以紧凑的方式构建一个计算简单、端到端可训练的模型，我们将其命名为超维度计算零样本分类器（Hyperdimensional Computing Zero-shot Classifier, HDC-ZSC）。该模型由一个可训练的图像编码器、基于HDC的属性编码器以及一个相似性核（similarity kernel）组成。实验表明，HDC-ZSC可首先用于执行零样本属性提取任务，随后仅需极小的架构调整和极少的模型重训练，即可无缝迁移至零样本分类任务。在CUB-200数据集上，HDC-ZSC实现了63.8%的Top-1分类准确率，同时仅需2660万个可训练参数，达到了帕累托最优（Pareto optimal）性能表现。相较于另外两种先进的非生成式方法，HDC-ZSC在准确率上分别提升了4.3%和9.9%，而后者所需的参数量分别超过HDC-ZSC的1.85倍和1.72倍。这一结果充分证明了HDC-ZSC在模型效率与性能之间的优越平衡。