セットの表現：集合表現学習のためのニューラルネットワーク

いくつかの分野において、データオブジェクトはより単純なオブジェクトの集合に分解することができます。その場合、各オブジェクトをその構成要素や部分の集合として表現することが自然です。しかし、多くの従来の機械学習アルゴリズムは、この種の表現を処理することができません。なぜなら、集合の基数が異なるだけでなく、要素間に意味のある順序が存在しないからです。本論文では、ベクトルの集合として表現される例を処理できる新しいニューラルネットワークアーキテクチャであるRepSet（レプセット）を提案します。提案されたモデルは、一連のネットワークフロープロブレムを解くことで、入力集合といくつかの隠れ集合との対応関係を計算します。この表現はその後、標準的なニューラルネットワークアーキテクチャに供給され、出力を生成します。本アーキテクチャはエンドツーエンドでの勾配ベース学習を可能にします。私たちはRepSetをテキスト分類やグラフ分類などの分類タスクで実証し、提案されたニューラルネットワークが最先端のアルゴリズムと同等かそれ以上の性能を達成することを示しています。