基于自适应噪声添加的防御对抗样本的算法

摘要: 近年来，基于深度神经网络的图像分类技术已经取得了巨大的成功，然而，最近研究表明深度神经网络容易受到对抗样本的攻击。为了解决这个问题，一些工作通过向图像中添加高斯噪声来训练网络，从而提高网络防御对抗样本的能力，但是该方法在添加噪声时并没有考虑到神经网络对图像中不同区域的敏感性是不同的。针对这一问题，提出了梯度指导噪声添加的对抗训练算法。该算法在训练网络时，根据图像中不同区域的敏感性向其添加自适应的噪声，在敏感性较大的区域上添加较大的噪声，抑制网络对图像变化的敏感程度，在敏感性较小的区域上添加较小的噪声，提高其分类精度。在cifar-10数据集上与现有的算法进行比较，实验结果表明，提出的方法有效地提高了神经网络在分类对抗样本时的准确率。