基于梯度扰动试探反抗进攻与反抗样本
|
基于logits集成的黑盒进攻算法是操作集成进修思绪的一种黑盒进攻要领。基于logits集成是通过集成多个模子的logits输出，以天生可以或许使得多个模子分类错误的反抗样本为方针举办实习，从而使得反抗样本可以或许对其它的零常识的模子具有黑盒进攻手段。常用的反抗进攻要领是操作单个模子的梯度举办快速天生可能操作logits输出举办优化来找到反抗样本。而基于logits集成是操作多个模子的logits输出，以获得对全部模子都具备进攻手段的反抗样本为目标，即这个反抗样本是全部模子的反抗样本，实现上通过进攻多个模子的集成模子来实现。其它还可以思量给各个模子赋上权重，衡量差异模子之间的相对重要性，以合用于差异的现实应用场景。集成后的logits表达式如下式所示。 个中 基于logits集成的头脑小心了集成进修的头脑，从原本的单模子反抗样本方针，进级为多模子集成反抗样本方针。基于logits线性加权集成的布局如下图所示。 这种要领的利益在于，起首在大局限数据集上具有好的迁徙手段;其次既可以迁徙无方针进攻，也可以对有方针进攻举办迁徙，即可以带着方针标签一路迁徙。另外，理论表白，基于logits集成的进攻手段明明优于猜测集成和丧失函数集成的进攻手段。 反抗样本 通过上面先容了反抗进攻的几种算法，我们可以借助这些反抗进攻算法来天生反抗样本。今朝反抗样本应用最多的规模是图像辨认偏向，进攻者可以操作进攻算法对图像中的像素点举办修改，改变了输入图像之后可以误导AI模子辨认体系做堕落误的判定。 我们操作FGSM算法对VGG模子举办进攻，天生反抗样本的要害进程如下。 起首我们载入一张火烈鸟的图片，并操作VGG模子举办猜测。功效发明VGG模子可以正知辨认火烈鸟的图片。 当我们在火烈鸟图片的梯度上升偏向上增进一个噪声信号之后，迭代增进400次并限定噪声信号的幅度范畴。再次用VGG模子辨认图片是发明模子会将火烈鸟辨认成鹤。按照FGSM算法的道理对火烈鸟图片举办修改，在原始图像上叠加的噪声就是在限定幅度范畴内对图像的梯度举办上升计较。 留意到叠加了噪声信号的反抗样本和原始样本现实上肉看调查不到区别，操作措施绘制出噪声信号也会发明噪声幅度很小险些可以忽略。可是对付VGG模子而言是此外功效却是完全差异的。跟着梯度上升迭代次数的增进，噪声信号越来越大、天生的反抗样本疑惑性越来越强，最终导致VGG模子受到了FGSM算法的进攻。 总结 颠末对反抗进攻的调研发明，反抗进攻受到越来越多的研究职员和公共的存眷。固然已经有不少研究提出了很多新奇的进攻算法用于发生反抗样本，可是与进攻对应的防止题目一向没有获得很好地办理。 今朝的反抗进攻防止办理要领首要包罗反抗进修进程插手反抗样本举办实习，以及引入胶囊收集等集成的方法对进攻要领举办防止。然而这些要领都还不成熟，并且没有形成完备的系统，至于防止结果也不明明。可以说今朝还没有一个完美的抵制反抗进攻的模子可能要领发生。因此无论是反抗进攻规模照旧防止要领都还存在着很大的成长空间。 【本文是51CTO专栏作者“绿盟科技博客”的原创稿件，转载请通过51CTO接洽原作者获取授权】 戳这里，看该作者更多好文 （编辑：河北网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
暗示第k个模子的logits输出,
暗示第k个模子的logits的权重。模子的丧失函数如下：
