【总结】攻击 AI 模型的方法

作者：正经夜光杯 | 2024-06-23 04:58:08

踩

【总结】攻击 AI 模型的方法

数据投毒
污染训练数据
后门攻击
通过设计隐蔽的触发器，使得模型在正常测试时无异常，而面对触发器样本时被操纵输出。后门攻击可以看作是特殊的数据投毒，但是也可以通过修改模型参数来实现
对抗样本
只对输入做微小的改动，使模型做出错误判断
模型窃取
利用中小模型窃取大模型的特定能力
提示注入
设计输入，使LLM将输入误认为是指令，生成由攻击者控制的欺骗性输出。可以细分为目标劫持和Prompt泄露。目标劫持是将原本的输出目标转向攻击者需要的目标；Prompt 泄露是诱导LLM披露其初始系统 prompt
越狱攻击
设计输入，绕过安全机制，输出不该输出的东西

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/正经夜光杯/article/detail/748739