【深度学习】深入浅出对抗机器学习(AI攻防)_对抗机器学习是深度学习吗

作者：小惠珠哦 | 2024-07-17 17:23:33

踩

对抗机器学习是深度学习吗

文章目录
1 Attack ML Model概述
2 基本概念
3 攻击分类
4 经典的对抗性样本生成算法
5 经典的对抗防御方法
6 人工智能安全现状概析
1
2
3
4
5
6
7

1 Attack ML Model概述

随着AI时代机器学习模型在实际业务系统中愈发无处不在，模型的安全性也变得日渐重要。机器学习模型很可以会遭到恶意攻击，比较直接就能想到的如：人脸识别模型的攻击。训练出具有对抗性的机器学习模型，在业务系统存在着越来越重要的实际意义。

机器学习模型攻击要做的事情如下图所示：
在这里插入图片描述
假设我们有一个Network用来做动物的图像识别。我们输入一张如图所示的图片， Network预测为“Tiger Cat”。机器学习模型攻击是在图片上加上一个微小的噪音Δ x，使得图片看起来还是一只“Tiger Cat”&

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小惠珠哦/article/detail/841129