高速化されたAutoAugment：バックプロパゲーションを用いたAugmentation戦略の学習

データ拡張手法は、特に画像認識タスクにおいて深層ニューラルネットワークの性能を向上させるために不可欠なヒューリスティックである。近年、探索アルゴリズムによって発見された拡張戦略が手動で設計された戦略を上回ることが複数の研究で示されている。このような手法は、連続的または離散的なパラメータを持つ画像変換に対してブラックボックス探索アルゴリズムを適用するものであり、より優れた戦略を得るには長時間の計算を要する。本論文では、従来の手法よりもはるかに高速なデータ拡張用の微分可能ポリシー探索パイプラインを提案する。我々は、離散パラメータを持つ複数の変換操作に対して近似的な勾配を導入するとともに、操作選択を微分可能に実現する機構を導入した。学習の目的関数として、拡張データの分布と元のデータの分布との距離を最小化するものとするが、この距離は微分可能である。実験の結果、本手法であるFaster AutoAugmentは、性能の低下を伴わず、従来手法に比べて著しく高速な探索が可能であることを示した。