1ヶ月前

ニューラルネットワーク行列分解

Gintare Karolina Dziugaite; Daniel M. Roy
ニューラルネットワーク行列分解
要約

データはしばしば配列や行列の形で提供されます。行列分解技術は、行列が2つの低ランク行列の積として表現できるという仮定のもと、欠損または破損したエントリを回復しようとします。つまり、行列分解では、対応する行と列の潜在特徴ベクトルに対して内積(inner product)という単純かつ固定された関数を作用させることで、行列のエントリを近似します。本稿では、この内積をデータから学習する任意の関数に置き換えることを検討します。特に、内積を多層フィードフォワードニューラルネットワークに置き換え、ネットワークと潜在特徴ベクトルを交互に最適化することで学習を行います。この手法を神経망行列分解(Neural Network Matrix Factorization: NNMF)と呼びます。NNMFは一連のベンチマークにおいて標準的な低ランク技術を上回りますが、グラフ特徴を利用した最近の提案手法には劣ります。NNMFフレームワーク内で使用できるアーキテクチャ、活性化関数、正則化項、最適化技術の幅広さを考えると、この手法の真の可能性はまだ十分に発揮されていないと考えられます。

ニューラルネットワーク行列分解 | 最新論文 | HyperAI超神経