11日前

UDRN:特徴選択および特徴射影のための統一的次元削減ニューラルネットワーク

Zelin Zang, Yongjie Xu, Linyan Lu, Yulan Geng, Senqiao Yang, Stan Z. Li
UDRN:特徴選択および特徴射影のための統一的次元削減ニューラルネットワーク
要約

次元削減(Dimensional Reduction, DR)は、定義された最適化目的を最小化するように高次元データを低次元の潜在空間に写像する手法である。DR手法は一般的に特徴選択(Feature Selection, FS)と特徴投影(Feature Projection, FP)に分類される。FSは重要な次元の部分集合を選択することに注力するが、データの分布(構造)を損なうリスクを伴う。一方、FPはすべての入力特徴を低次元空間に統合することで、データの構造を維持することを目的としているが、解釈可能性とスパース性に欠ける。従来、FSとFPは互いに排他的なカテゴリとされており、統合的なフレームワークとしての統合は困難であった。本研究では、理想的なDRアプローチとして、FSとFPを統一されたエンド・トゥ・エンドの多様体学習フレームワークに統合し、潜在空間におけるデータサンプル間の内在的な関係を保持しつつ、基本的な特徴発見を同時に行うことを提案する。本研究では、FSとFPを互換性を持ち、エンド・トゥ・エンドで実現できる統一的なフレームワーク「統一次元削減ニューラルネットワーク(Unified Dimensional Reduction Neural-network, UDRN)」を構築した。さらに、2つのスタックされたサブネットワークを用いて、FSとFPのタスクを別々に実装することで、ニューラルネット構造を改善した。また、大規模な特徴量データセットに対する汎化能力を向上させるため、DRプロセスにデータ拡張を導入し、それに適した損失関数を設計した。画像データ4種類および生物学的データ4種類(特に高次元データを含む)における広範な実験結果から、従来の手法(FS、FP、およびFS&FPパイプライン)に対してUDRNが優れた性能を発揮することが示された。特に、分類や可視化といった下流タスクにおいて顕著な利点が確認された。

UDRN:特徴選択および特徴射影のための統一的次元削減ニューラルネットワーク | 最新論文 | HyperAI超神経