適応型合理的活性化関数を用いた深層強化学習の性能向上

最新の生物学的知見によれば、知能は神経細胞間の接続から生じるだけでなく、個々の神経細胞がこれまで想定されていたよりもはるかに大きな計算的負荷を担っていることが明らかになっている。このような見方は、常に変化する多様な強化学習環境において極めて重要であるが、現行のアプローチは依然として静的な活性化関数を主に採用している。本研究では、有理関数（rational functions）が柔軟な活性化関数に適している理由、およびニューラルネットワークにその導入が不可欠である理由を提示する。リズミカルな残差接続（residual connections）の構造に着想を得て、有理ユニットが残差接続に関して閉じている条件を導出し、自然な正則化が施された形として「再帰的有理関数（recurrent-rational）」を定式化した。実験では、代表的な強化学習アルゴリズムに（再帰的）有理活性化関数を導入することで、Atariゲームにおいて一貫した性能向上が得られることを示した。特に、シンプルなDQNを再構成することにより、DDQNやRainbowと同等の性能を達成する強固な手法へと進化させることができた。