11 天前

UDRN:用于特征选择与特征投影的统一维度缩减神经网络

Zelin Zang, Yongjie Xu, Linyan Lu, Yulan Geng, Senqiao Yang, Stan Z. Li
UDRN:用于特征选择与特征投影的统一维度缩减神经网络
摘要

降维(Dimensional Reduction, DR)旨在将高维数据映射至低维潜在空间,同时最小化预定义的优化目标。DR方法通常可分为特征选择(Feature Selection, FS)和特征投影(Feature Projection, FP)两类。FS专注于选取关键维度子集,但可能破坏数据的分布结构;而FP则将所有输入特征融合至低维空间,以尽可能保留数据的内在结构,但其结果往往缺乏可解释性与稀疏性。传统上,FS与FP被视为互不兼容的两类方法,因而难以整合进统一的框架中。本文提出,理想的降维方法应将FS与FP有机融合,构建一个统一的端到端流形学习框架,在实现基础特征发现的同时,保持潜在空间中数据样本间的内在关系。为此,我们提出一种统一的降维神经网络框架——统一降维神经网络(Unified Dimensional Reduction Neural-network, UDRN),以兼容且端到端的方式集成FS与FP。该框架通过两个级联的子网络,分别执行特征选择与特征投影任务,优化神经网络结构。此外,我们设计了针对降维过程的数据增强策略,以提升方法在高维特征数据集上的泛化能力,并构建了与数据增强相协同的损失函数。在四组图像数据集与四组生物数据集(包括极高维数据)上的大量实验结果表明,UDRN在分类与可视化等下游任务中显著优于现有方法(包括纯FS、纯FP以及FS与FP串联的流水线方法),充分验证了所提框架的有效性与优越性。

UDRN:用于特征选择与特征投影的统一维度缩减神经网络 | 最新论文 | HyperAI超神经