1ヶ月前

集合間の相互作用の深層モデル

Jason Hartford; Devon R Graham; Kevin Leyton-Brown; Siamak Ravanbakhsh
集合間の相互作用の深層モデル
要約

私たちは深層学習を用いて、ユーザ-映画の評価、タンパク質-薬物の結合、または三元のユーザ-アイテム-タグの相互作用など、2つ以上のオブジェクト集合間の相互作用をモデル化します。このような相互作用の標準的な表現は、交換可能性(exchangeability)を持つ行列(または高次元テンソル)です:行や列を入れ替えてもエンコーディングの意味が変わらないという特性を持っています。私たちは、モデルが従うべきは置換同変性(Permutation Equivariant, PE)であると主張します:すなわち、そのような置換に対して同じ予測を行うように制約されるべきです。私たちはパラメータ共有スキームを提示し、これがPEに違反せずにさらに表現力を向上させることは不可能であることを証明しました。このスキームは3つの利点をもたらします。第一に、私たちは複数の行列補完ベンチマークで最先端の性能を示しました。第二に、私たちのモデルはオブジェクト数に依存しないパラメータ数が必要であり、そのため大規模データセットにも適応性があります。第三に、訓練時には利用できなかったがその後相互作用が観察された新しいオブジェクトについてもモデルに問い合わせることができます。実験では、私たちのモデルはこの行列外挿タスクにおいて驚くほど良い汎化性能を達成しました。ドメイン内(例えば、訓練で使用された同一分布から抽出された新しいユーザと新しい映画)だけでなく、ドメイン間(例えば、映画での訓練後で音楽評価を予測する)でも同様です。