DLME：Deep Local-flatness Manifold Embedding

多様体学習（Manifold Learning, ML）は、高次元データから低次元の埋め込み表現を探索することを目的としている。実世界のデータセットにおいては、特にサンプル数が不足する状況下ではこの問題は困難であり、これまでの手法がそのような状況下で著しく性能を発揮しないことを我々は確認した。一般的に、ML手法はまず入力データを低次元の埋め込み空間に変換し、データの幾何学的構造を保持した上で、その後の下流タスクをその空間内で実行する。しかしながら、第一段階におけるサンプル不足による局所的な接続性の欠如と、第二段階における不適切な最適化目的の組み合わせにより、二つの問題が生じる：構造の歪み（structural distortion）と埋め込みの不十分な制約（underconstrained embedding）。本論文では、これらの課題を解決するための新しいMLフレームワークである「Deep Local-flatness Manifold Embedding（DLME）」を提案する。提案手法DLMEは、データ拡張を用いて意味的な多様体を構築し、多様体の局所平坦性（local flatness）を仮定した滑らかさ制約に基づき、構造の歪みを克服する。また、埋め込みの不十分な制約問題に対処するため、新たな損失関数を設計し、理論的にその損失が局所平坦性に基づいてより適切な埋め込みを導くことを示した。さまざまな下流タスク（分類、クラスタリング、可視化）を対象とした、玩具データ、生物学的データ、画像データの3種類のデータセットにおける実験結果から、本手法DLMEが最先端のML手法および対照学習（contrastive learning）手法を上回ることを確認した。