HyperAIHyperAI
vor 11 Tagen

UDRN: Unified Dimensional Reduction Neural Network für Merkmalsauswahl und Merkmalsprojektion

Zelin Zang, Yongjie Xu, Linyan Lu, Yulan Geng, Senqiao Yang, Stan Z. Li
UDRN: Unified Dimensional Reduction Neural Network für Merkmalsauswahl und Merkmalsprojektion
Abstract

Dimensionale Reduktion (DR) transformiert hochdimensionale Daten in einen niedrigerdimensionalen latente Raum, wobei ein vordefiniertes Optimierungsziel minimiert wird. Die DR-Methoden lassen sich üblicherweise in Merkmalsauswahl (FS) und Merkmalsprojektion (FP) einteilen. Bei FS wird eine kritische Teilmenge von Dimensionen ausgewählt, was jedoch das Risiko birgt, die Datenverteilung (Struktur) zu verfälschen. Im Gegensatz dazu kombiniert FP alle Eingabemerkmale zu einem niedrigerdimensionalen Raum, um die Datenstruktur zu bewahren; sie weist jedoch eine geringe Interpretierbarkeit und Sparsamkeit auf. FS und FP sind traditionell inkonsistente Kategorien, weshalb sie bisher nicht in einem kohärenten Rahmen vereint wurden. Wir schlagen vor, dass die ideale DR-Methode sowohl FS als auch FP in einem einheitlichen, end-to-end-Manifold-Lernframework integriert, um gleichzeitig grundlegende Merkmalsentdeckung vorzunehmen und die intrinsischen Beziehungen zwischen Datenproben im latente Raum zu erhalten. In dieser Arbeit entwickeln wir einen einheitlichen Rahmen namens Unified Dimensional Reduction Neural-network (UDRN), der FS und FP kompatibel und end-to-end integriert. Die neuronale Netzstruktur wird verbessert, indem FS und FP getrennt durch zwei hintereinander geschaltete Subnetzwerke realisiert werden. Zudem wird eine Datenverstärkung im DR-Prozess entworfen, um die Generalisierungsfähigkeit der Methode bei umfangreichen Merkmalsdatensätzen zu erhöhen, sowie Verlustfunktionen, die mit der Datenverstärkung synergistisch arbeiten. Ausführliche Experimente an vier Bild- und vier biologischen Datensätzen, einschließlich sehr hochdimensionaler Daten, belegen die Vorteile von UDRN gegenüber bestehenden Methoden (FS, FP sowie FS&FP-Pipelines), insbesondere in nachgeschalteten Aufgaben wie Klassifikation und Visualisierung.

UDRN: Unified Dimensional Reduction Neural Network für Merkmalsauswahl und Merkmalsprojektion | Neueste Forschungsarbeiten | HyperAI