摘要
我们介绍了两个具有挑战性的数据集，这些数据集能够可靠地导致机器学习模型性能显著下降。这些数据集通过一种简单的对抗过滤技术收集，旨在创建包含有限虚假线索的数据集。我们的数据集中包含的真实世界、未修改的样本能够可靠地迁移到各种未知模型上，这表明计算机视觉模型存在共同的弱点。第一个数据集被称为ImageNet-A，类似于ImageNet测试集，但对现有模型来说更具挑战性。我们还整理了一个对抗性分布外检测数据集，称为ImageNet-O，这是专门为ImageNet模型创建的第一个分布外检测数据集。在ImageNet-A上，DenseNet-121的准确率约为2%，比正常情况下降了约90%；而在ImageNet-O上的分布外检测性能接近随机水平。我们发现现有的数据增强技术几乎无法提升性能，使用其他公开的训练数据集提供的改进也非常有限。然而，我们发现改进计算机视觉架构为实现鲁棒模型提供了一条有希望的路径。