敵対的ネットワーク

敵対的ネットワークは、敵対的生成ネットワークの実装であり、指定されたニューラル ネットワーク モデルに対して敵対的サンプルをバッチで生成するために使用されます。

よく訓練された敵対的生成ネットワークは、多数の異なる敵対的サンプルを効果的に生成できます。攻撃者はこれを利用して、以前の攻撃とは異なる攻撃ベクトルを生成する可能性があります。しかし、防御者は、分類器のトレーニングを強化するために、ラベル付きのネガティブな入力を生成することもできます。

これは、2018 年初めにカーネギーメロン大学とノースカロライナ大学チャペルヒル校の研究者によって提案されました。