17日前
対向的な例は画像認識を改善する
Cihang Xie, Mingxing Tan, Boqing Gong, Jiang Wang, Alan Yuille, Quoc V. Le

要約
敵対的サンプルは、通常、ConvNetに対する脅威と見なされている。本研究では、その逆の視点を提示する:適切な方法で活用すれば、敵対的サンプルは画像認識モデルの性能向上に寄与しうる。我々は、敵対的サンプルを追加の学習例として扱い、過学習を抑制するための強化された敵対的訓練法「AdvProp」を提案する。本手法の鍵となるのは、通常のサンプルとは異なる潜在分布を持つ敵対的サンプルに対して、別個の補助的なバッチ正規化(auxiliary batch norm)を用いることである。AdvPropが、さまざまな画像認識タスクにおいて幅広いモデルの性能を向上させることを示した。特に、モデルがより大規模な場合にその効果が顕著に現れる。例えば、ImageNet上での最新のEfficientNet-B7 [28] にAdvPropを適用した結果、ImageNet(+0.7%)、ImageNet-C(+6.5%)、ImageNet-A(+7.0%)、Stylized-ImageNet(+4.8%)において顕著な性能向上が達成された。さらに、強化されたEfficientNet-B8を用いることで、追加データなしでImageNet Top-1精度85.5%という最先端の結果を達成した。これは、ImageNetデータ量の約3000倍に相当する35億枚のInstagram画像(約9.4倍のパラメータ数)を用いて訓練された、文献[20]における最良モデルをも上回る結果である。モデルの公開は、https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet にて行っている。