对抗攻击与防御：如何保护视觉模型安全？
- 前言
- 一、对抗攻击的基本原理
- 二、对抗攻击的主要类型
-
- 2.1 白盒攻击
- 2.2 黑盒攻击
- 三、对抗攻击的常见形式
-
- 3.1 定向攻击
- 3.2 非定向攻击
- 四、对抗防御的核心思路
- 五、常见的对抗防御方法
-
- 5.1 对抗训练
- 5.2 输入预处理
- 5.3 防御蒸馏
- 六、对抗攻击与防御的架构设计
-
- 6.1 攻击架构
- 6.2 防御架构
- 七、实际应用中的挑战
-
- 7.1 攻击方法的进化
- 7.2 防御性能的平衡
- 7.3 计算资源的消耗
- 八、代码示例：对抗攻击与防御的实现
-
- 8.1 生成对抗样本（基于 PyTorch）
- 8.2 对抗训练的实现代码
- 九、未来发展方向
-
- 9.1 自适应攻击与防御
- 9.2 结合物理世界的防御
- 9.3 轻量化防御技术
- 了解博主
对抗攻击与防御：如何保护视觉模型安全？，人工智能，计算机视觉，大模型，AI，视觉模型在处理图像时，会通过多层神经网络提取特征并做出判断。但这些模型存在一个弱点：对输入图像的微小改动非常敏感。对抗攻击就是利用这个弱点，在原始图像上添加人眼难以察觉的扰动，让模型做出错误判断。
前言
计算机视觉是一门研究如何使机器“看”的科学，更进一步的说，就是是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科，计算机视觉研究相关的理论和技术，试图建立能够从图像或者多维数据中获取‘信息’的人工智能系统。这里所指的信息指Shannon定义的，可以用来
