17日前

あなたが学ぶのは一つの表現に限る:複数タスク向け統一ネットワーク

Chien-Yao Wang, I-Hau Yeh, Hong-Yuan Mark Liao
あなたが学ぶのは一つの表現に限る:複数タスク向け統一ネットワーク
要約

人間は視覚、聴覚、触覚といった感覚を通じて世界を「理解」するとともに、過去の経験も活用している。人間の経験は、通常の学習を通じて得られる(これを明示的知識と呼ぶ)、あるいは無意識のうちに得られる(これを暗黙的知識と呼ぶ)という2つの形態がある。こうした通常の学習や無意識的な学習によって得られた経験は、脳に符号化され、蓄積される。この豊富な経験を巨大なデータベースとして利用することで、人間はこれまでに見たことのないデータに対しても効果的に処理を行うことができる。本論文では、人間の脳が通常の学習と無意識的学習の両方から知識を獲得するのと同様に、暗黙的知識と明示的知識を統合的に符号化できる統一型ネットワークを提案する。この統一ネットワークは、さまざまなタスクに同時に対応できる統一された表現を生成することができる。畳み込みニューラルネットワーク内で、カーネル空間のアライメント、予測の精緻化、マルチタスク学習を実現可能である。実験結果から、暗黙的知識をニューラルネットワークに導入することで、すべてのタスクの性能が向上することが明らかになった。さらに、提案する統一ネットワークから学習された暗黙的表現の分析を行ったところ、異なるタスクの物理的な意味を効果的に捉える能力を有していることが示された。本研究のソースコードは以下のURLから入手可能である:https://github.com/WongKinYiu/yolor。

あなたが学ぶのは一つの表現に限る:複数タスク向け統一ネットワーク | 最新論文 | HyperAI超神経