要約
我々は、標準的なモデルフリー強化学習アルゴリズムに適用可能なシンプルなデータ拡張技術を提案する。この手法により、補助損失関数や事前学習を必要とせずに、直接画像ピクセルからロバストな学習が可能となる。本手法は、コンピュータビジョンタスクで一般的に用いられる入力ノイズ（摂動）を活用し、価値関数の正則化を実現する。従来のモデルフリー手法、例えばソフトアクターキャリブレーション（SAC）は、画像ピクセルから深層ネットワークを効果的に学習することができない。しかし、本研究で提案する拡張手法を導入することで、SACの性能が著しく向上し、DeepMind Control Suiteにおいて最先端の性能を達成。これは、モデルベース手法（Dreamer、PlaNet、SLAC）および最近提案された対照学習手法（CURL）を上回る成果である。本アプローチは、任意のモデルフリー強化学習アルゴリズムと組み合わせ可能であり、実装上の変更は最小限にとどまる。実装コードは以下のURLで公開されている：https://sites.google.com/view/data-regularized-q。