
要約
最近の研究では、ニューラルネットワークアーキテクチャに同変性を組み込むことが非常に有益であることが示されており、グループ作用におけるネットワークの同変性に関する研究もいくつか行われています。しかし、デジタル画像や特徴マップは離散的なメッシュグリッド上にあるため、対応する同変性を保つ変換群は非常に限定的です。本研究では、畳み込みと偏微分作用素(Partial Differential Operators: PDOs)との関連性からこの問題に取り組んでいます。理論的には、入力が滑らかであるという仮定のもとで、PDOsを変換し、より一般的な連続群である$n$次元ユークリッド群に対して同変性を持つシステムを提案しています。実装においては、PDOsの数値スキームを使用してシステムを離散化し、近似的に同変性を持つ畳み込み(PDO-eConvs)を導出しています。理論的に、PDO-eConvsの近似誤差は二次の順序です。これは、同変性が近似される場合の誤差分析が初めて提供されているということを意味します。回転したMNISTデータセットや自然画像分類における広範な実験結果から、PDO-eConvsは競争力のある性能を示しつつもパラメータの使用効率が高いことが確認されました。特にWide ResNetsと比較すると、わずか12.6%のパラメータを使用することでより優れた結果を得ることができました。