
要約
動画行動分類用モデルの構築は急速に進展している。しかし、異なるモダリティ(例:光流)で訓練された同一モデルをアンサンブルすることで、その性能は依然として容易に向上可能である。問題は、推論時に複数のモダリティを用いることが計算コストが非常に高くなる点にある。近年の研究では、複数モダリティの利点を単一のRGBモデルに統合する手法が検討されているが、さらなる改善の余地は依然として存在する。本論文では、単一モデルにアンサンブルの効果を統合するための多様な手法を検討する。我々は、適切な初期化および相互モダリティ学習が単一モダリティモデルの性能を向上させることを示した。その結果、Something-Something-v2ベンチマークにおいて、最先端の性能を達成した。