2 个月前

通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类

Ozsel Kilinc; Ismail Uysal
通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类
摘要

在本文中,我们提出了一种新颖的无监督聚类方法,该方法利用通过伪分类目标间接引入的隐藏信息。具体而言,我们为每个观测值随机分配一个伪父类标签,然后通过应用与所分配标签相关的领域特定变换来修改这些标签。生成的伪观测-标签对随后用于训练具有自动聚类输出层(Auto-clustering Output Layer, ACOL)的神经网络,该输出层为每个伪父类引入多个softmax节点。由于基于图活动正则化(Graph-based Activity Regularization, GAR)项的无监督目标,每个父类的softmax副本在训练过程中逐渐专业化,因为通过领域特定变换捕获的隐藏信息在训练过程中得以传播。最终,我们获得了适合k-means聚类的潜在表示。此外,我们展示了所选择的变换类型如何影响性能,并有助于传播揭示未知聚类所需的潜在信息。我们的实验结果表明,在MNIST、SVHN和USPS数据集上的无监督聚类任务中,该方法达到了迄今为止文献中报告的最高精度。

通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类 | 最新论文 | HyperAI超神经