2023年最新入门对抗样本、对抗攻击与防御的最佳教程，里面包含总结好的攻击跟防御代码 并有详细介绍。 有入门到精通，该教程最通俗易懂。 对抗样本是各种机器学习系统需要克服的一大障碍。对抗样本的存在表明模型倾向于依赖不可靠的特征来最大化性能，如果特征受到干扰，那么将造成模型误分类，可能导致灾难性的后果。对抗样本的非正式定义：以人类不可感知的方式对输入进行修改，使得修改后的输入能够被机器学习系统误分类，尽管原始输入是被正确分类的。这一修改后的输入即被称为对抗样本。 敌手在恶意设计扰动，让自动驾驶汽车直线拐弯[10]，让目标检测失灵[11]，让人脸识别系统失效[12]。我不放心你做事啊，尤其是人命关天的任务。

深度学习模型被证明存在脆弱性并容易遭到对抗样本的攻击,但目前对于对抗样本的研究主要集中在计算机视觉领域而忽略了自然语言处理模型的安全问题.

一、论文相关信息   1.论文题目     Adversarial Examples: Attacks and Defenses for Deep Learning   2.论文时间     2017年   3.论文文献     https://arxiv.org/abs/1712.07107 二、论文背景及简介   随着深度学习的快速发展与巨大成功，深度学习被应用在许多对安全有严格要求的环境中。然而，深度神经网络近来被发现，对于精心设计好的输入样本，其是脆弱的，这种样本就被称为对抗样本。对抗样本对人类是很容易分辨的，但却能在测试或部署阶段，很容易的糊弄深度神经网络。当应用深度神经网络到对安

部分内容摘自知乎、《统计因果推理》和因果推理课程等，仅供个人学习使用

苏涛：对抗样本技术在互联网安全领域的应用.doc

cleverhans源代码

利用GAN的思想，进行数字对抗样本生成，以LeNet作为图像分类模型，LeNet是一个小型的神经网络结构，仅包含两层卷积层、两个池化层以及三层全连接。该轻量级网络能快速、占内存小、高精确度的解决复杂度比较低的问题，如手写数字识别。 (步骤1)用LeNet网络完成手写数字识别任务。 (步骤2)利用对抗样本工具包生成针对该网络的对抗样本。 整体包括一下部分 步骤1：用`LeNet网络`完成手写数字识别任务。 LeNet 网络 数据集的下载和预处理 Image displaying pytorch 搭建LeNet LetNet 训练 超参数的设置 训练及测试模型 可视化误差曲线，准确率曲线 结果可视化，查看每一类的准确率 模型的保存与加载 步骤2：生成针对该网络的对抗样本。 威胁模型 快速梯度符号攻击 定义扰动上限 epsilons 被攻击的模型 FGSM 攻击方式 测试函数 启动攻击 对抗结果 准确性 vs Epsilon 样本对抗性示例

关于Interpretable Deep Learning under Fire这篇论文的演讲PPT和讲稿

本文通过对抗样本生成技术的回顾，从信号层、内容层以及语义层三个层面，白盒攻击与黑盒攻击两个角度，简要介绍了对抗样本生成技术，目的是希望读者能够更好地发现对抗样本的本质，对机器学习模型的健壮性、安全性和可解释性研究有所启发。

生成对抗神经网络matlab代码表征签名验证的对抗性示例 该存储库包含用于评估对基于 CNN 和基于 LBP 的模型的攻击的代码 [1]，以及用于评估 CNN 训练的两种防御机制（Madry 防御 [2] 和 Ensemble 对抗性训练 [3]）的脚本。 [1] Hafemann、Luiz G.、Robert Sabourin 和 Luiz S. Oliveira。 “表征和评估离线手写签名验证的对抗性示例”（） [2] Madry, A.、Makelov, A.、Schmidt, L.、Tsipras, D. 和 Vladu, A.，2017 年。走向能够抵抗对抗性攻击的深度学习模型。 [3] Tramèr, F.、Kurakin, A.、Papernot, N.、Goodfellow, I.、Boneh, D. 和 McDaniel, P.，2017 年。整体对抗训练：攻击和防御。 安装 首先安装包如下： pip install git+https://github.com/luizgh/sigver.git --process-dependency-links 下载（或克隆）此