要約
ニューラルモデルが、決定木のような区分定数関数を実現可能であることを示す。本研究で提案するアーキテクチャ、すなわち「局所定数ネットワーク（locally constant networks）」は、ReLUネットワークに基づいている。ReLUネットワークは区分線形であるため、入力に対する勾配は局所的に定数となる。本研究では、局所定数ネットワークと決定木のクラスの間に厳密な同値性を形式的に確立する。さらに、局所定数ネットワークが持つ複数の利点を強調する。特に、分岐点と葉ノード間でパラメータ共有を実現できること、および、$2^M$ 個の葉ノードを持つ斜め決定木（oblique decision tree）を、わずか $M$ 個のニューロンで暗黙的に表現可能である点が挙げられる。このニューラル表現により、深層ネットワークで開発された多くの手法（例：DropConnect（Wanら、2013））を、決定木の暗黙的な学習に応用可能となる。実験では、分子性質の分類および回帰タスクにおいて、本手法が従来の斜め決定木学習手法を上回ることを示した。