2ヶ月前

SMPConv: 自己移動点表現を用いた連続畳み込み

Sanghyeon Kim; Eunbyung Park
SMPConv: 自己移動点表現を用いた連続畳み込み
要約

連続畳み込みは、不規則にサンプリングされたデータを処理し、長期依存関係をモデル化する能力により、最近注目を集めています。また、大規模な畳み込みカーネルを使用した実験結果の有望さが、連続畳み込みの開発を促進しています。これは、大規模なカーネルを非常に効率的に構築できるためです。ニューラルネットワーク、特に多層パーセプトロン(MLP)を活用することは、現在までで最も一般的な連続畳み込みの実装方法となっています。しかし、計算コストの高さ、ハイパーパラメータ調整の複雑さ、およびフィルタの表現力の制限などの課題があります。本論文では、ニューラルネットワークを使用せずに連続畳み込みを構築する代替アプローチを提案します。これにより、より計算効率が高く、性能も向上します。我々は自己移動点表現を提示します。ここで重みパラメータは自由に移動し、補間手法が用いられて連続関数を実装します。この手法を畳み込みカーネルの構築に適用した際の実験結果は、既存のフレームワークでの置き換えによって性能向上が示されています。軽量な構造のおかげで、我々は初めて大規模設定において連続畳み込みの有効性を示しました。例えばImageNetにおいて先進技術に対する改善点を提示しています。我々のコードは https://github.com/sangnekim/SMPConv で公開されています。

SMPConv: 自己移動点表現を用いた連続畳み込み | 最新論文 | HyperAI超神経