Hopular：テーブルデータ向けの現代的ホップフィールドネットワーク

ディープラーニングは、コンピュータビジョンや自然言語処理において構造化されたデータに対して優れた性能を発揮する一方で、テーブルデータ（tabular data）ではその期待に応えられていません。テーブルデータの分野では、サポートベクターマシン（SVM）、ランダムフォレスト、勾配ブースティングが最も高い性能を示しており、特に勾配ブースティングがリーダー的地位にあります。近年、テーブルデータに特化したディープラーニング手法が多数登場しましたが、小規模なデータセットでは依然として勾配ブースティングに及ばない結果に留まっています。そこで本研究では、「Hopular」という新たなディープラーニングアーキテクチャを提案します。Hopularは中規模および小規模のテーブルデータを対象としており、各層に連続型モダン・ホプフィールドネットワーク（continuous modern Hopfield networks）を搭載しています。モダン・ホプフィールドネットワークは、格納されたデータを用いて特徴間の依存関係（feature-feature）、特徴とターゲット間の依存関係（feature-target）、サンプル間の依存関係（sample-sample）を検出します。Hopularの特徴は、各層がホプフィールドネットワークに格納されたデータを通じて、元の入力データおよび全体のトレーニングデータセットに直接アクセスできることです。この仕組みにより、Hopularは標準的な反復学習アルゴリズムと同様に、各層で現在のモデルおよびその予測値を段階的に更新することが可能になります。小規模なテーブルデータセット（1,000サンプル未満）に対する実験では、Hopularは勾配ブースティング、ランダムフォレスト、SVM、さらには複数のディープラーニング手法を上回る性能を示しました。また、約10,000サンプルの中規模テーブルデータに対する実験では、XGBoost、CatBoost、LightGBM、およびテーブルデータ向けに設計された最先端のディープラーニング手法をも凌駕しました。以上から、Hopularはテーブルデータ処理において、従来の主要手法と並ぶ強力な代替手段であることが示されました。