- 1【C++】string类的基础操作_c++ string操作
- 2基于朴素贝叶斯算法的文本单词纠错程序设计（初级）_文本纠错问题 贝叶斯
- 3AI实战营第五章CRNN作业加载预训练模型遇到的报错及解决方法_crnn加载预训练模型
- 4国内使用Claude教程，简洁版_国内是如何使用claude2
- 5python安装torch的详细步骤（亲测成功）_pip install torch
- 6基于uniapp开发 微信小程序登陆页面一_uniapp开发小程序启动进入登录页面
- 7《STTR：Revisiting Stereo Depth Estimation From a Sequence-to-Sequence Perspective with Transformers》
- 8第二章 HuggingFace数据集使用介绍_hugging face 上的资源怎么用
- 9ChatGPT 之现金流
- 10pytorch关系抽取框架OpenNRE源码解读与实践：PCNN ATT
NLP对抗文本攻击分类_对抗攻击文本分类
赞
踩
NLP对抗文本攻击（1）——攻击分类
文献来源
[1] 李进锋. 面向自然语言处理系统的对抗攻击与防御研究[D].浙江大学,2020.
白盒攻击
基于梯度的攻击
goodfellow提出经典的FGSM（快速梯度下降法）算法，这些算法效率高，但是假设太强，在现实中不实用，无法保证对抗样本的质量，可用性差。
黑盒攻击
基于置信度的攻击
基于置信度的攻击：寻找对分类影响高的点，依次添加扰动，Gao等人提出的DeepWordBug 1模型中，以下式计算每个词的重要性：
缺点：长文本计算THS和TTS耗时长；随机扰动导致可读性差。
基于迁移性的攻击
该攻击方法首先基于与目标攻击模型的训练数据同分布的数据训练一个源文本分类模型。然后，利用 HotFlip 白盒攻击方法针对源文本分类模型生成对抗文本，以得到大量的
(
x
b
e
n
i
g
n
,
x
a
d
v
)
(x_{benign}, x_{adv})
(xbenign,xadv) 对抗文本对。接着，基于大量的对抗文本数据对训练一个“攻击者”神经网络以模拟 HotFlip 攻击方法的攻击过程。最后，利用攻击者网络直接生成对抗文本并基于其迁移性对目标黑盒模型进行对抗攻击.
缺点：攻击者必须能获取目标模型的训练数据或者能获取与该训练数据同分布的数据，成功率不高。
基于模型决策的攻击
利用蒸馏模型提取梯度，通过蒸馏模型识别关键词，对关键词添加扰动。
总结
Gao J, Lanchantin J, Soffa M L, et al. Black-box generation of adversarial text sequences to evade deep learning classifiers 2018 IEEE Security and Privacy Workshops (SPW).2018: 50-56. ↩︎
