文章摘要:随着深度学习的普及与发展，对抗样本的存在严重威胁着深度学习模型的安全。针对物理世界中对抗样本的攻击问题，提出了一种基于注意力机制的物理对抗样本检测方法。该方法将注意力机制与特征压缩相结合，对局部可视对抗样本主要区域进行针对性检测，排除非主要区域的影响，减少计算工作量；通过有效组合多种特征压缩方法对样本中的主要区域进行处理，破坏对抗噪声块的结构，使其失去攻击性。在MNIST和CIFAR-10数据集上对不同的对抗攻击进行防御测试，并与其他对抗防御方法进行对比实验。结果表明，该方法的防御准确率可达到95%以上，与其他局部对抗样本防御方法相比通用性高，稳定性更强，可有效防御局部可视对抗样本的攻击。

文章关键词:

项目基金:国家重点研发计划项目(2018YFF0301004),国家自然科学基金资助项目(61802107),河北省自然科学基金资助项目(F2018402251),河北省高等学校科学技术研究项目(QN2020193),