
要約
深層ニューラルネットワーク(DNN)は、入力と出力の間の複雑だが固定的なマッピング規則を学習する強力なツールであるが、そのマッピング規則が異なるコンテキストに応じて変化するより複雑で動的な状況での応用には制限がある。このような制限を克服するために、我々は新しい手法を開発した。この手法は、正規直交重み修正(Orthogonal Weights Modification: OWM)と呼ばれる学習アルゴリズムと、コンテキスト依存処理(Context-Dependent Processing: CDP)モジュールの組み合わせを用いている。OWMを使用することでカタストロフィックフォーリングの問題を克服し、CDPモジュールを使用することで異なるコンテキストにおいて特徴表現や分類器の再利用方法を学習することが可能となった。これにより、単一のネットワークがオンラインかつ継続的に多くのコンテキスト依存マッピング規則を獲得でき、各規則を学習するためにわずか約10サンプルしか必要としない。これは高密度システムが徐々に現実世界の多様な規則性を学習し、最終的には適切に動作することを可能にするはずである。