CSA大中华区发布《AI安全白皮书》，中国电信、蚂蚁集团、华为、百度安全等单位参编

关注国际云安全联盟CSA公众号，回复关键词“AI”获取报告

2023年9月，CSA大中华区成立AI安全工作组，旨在共同解决 AI 技术快速发展所带来的安全难题。《AI安全白皮书》是CSA大中华区AI安全工作组的首个研究成果，由来自中国电信、蚂蚁集团、电子科技大学、百度安全、华为、京东安全、启明星辰、安恒信息、联通（广东）产业互联网有限公司、Ucloud、物盾科技、世平信息、魔方安全、孚临科技、安几科技等单位共同编制而成。

报告探讨了AI在安全领域的多种应用，包括漏洞挖掘、安全防御和威胁检测，着重分析了AI本身的安全问题，如内生安全和衍生安全问题。此外，白皮书还涉及了AI安全的监管生态、技术生态以及行业发展情况，关注AI安全的最新热点问题，如大模型安全、对抗样本攻击、数据投毒攻击、供应链攻击、数据泄露攻击和模型窃取攻击等，这些内容对于理解当前和未来AI安全的趋势至关重要。

文末附《白皮书》获取方式

AI赋能安全

报告指出AI将成为企业成功的关键因素之一，包括提供更高级的安全保障。AI赋能网络安全，为漏洞挖掘、威胁检测以及加强网络防御带来了新的能力，通过智能化预测与决策提高安全运营效率，大幅缩短对攻击的响应时间，增强网络安全防御的协作能力。

报告指出AI赋能安全的同时，在其应用的前提下依然会带来新的安全问题，一是AI技术自身的脆弱性可能导致不稳定或者不安全的情况；再就是其自身应用特点可能给其他领域带来风险，即AI技术的产生的衍生安全问题。

AI安全生态

AI环境生态的安全是整个AI安全的实施基础，报告从AI环境切入，提出AI安全应从AI数据安全、AI算法安全、AI应用安全和AI安全运营4个层面综合考虑。

报告指出数据安全是AI数据安全的关键，数据的安全和质量影响着AI算法/模型的准确性，在机器学习的每个步骤中，都存在着隐私泄露的风险。

AI安全的热门问题

基于AI技术安全问题，报告针对当前的热点技术AI技术话题，进行了展开，包括：大模型安全、对抗样本攻击、数据投毒攻击、供应链攻击、数据泄露攻击、模型窃取攻击，以及AI辅助应用场景（例如：辅助医疗、辅助驾驶、辅助客服，以及金融、军事、基础设施、社交媒体应用场景等）的安全问题。

• 大模型安全问题重点分析了个人信息和敏感数据的保护问题，并指出大模型在交互场景的运营过程中也存在诸多威胁和风险；
• 对抗样本攻击则聚焦于攻击者对输入样本进行微小、有针对性的修改带来的AI大模型误判或误分类，强调了对抗过程中模型的鲁棒性和样本检测等技术的重要性；
• 数据投毒攻击研究了通过污染训练数据来欺骗计算模型的风险和应对技术；
• 供应链攻击则注意到AI技术所依赖的供应链的脆弱性，并提出针对AI供应链攻击的检测和防御思路；
• 数据泄露攻击在分析了大模型安全的一个重要场景，分析了已出现的数据泄露攻击方法，并提出了普适性应对方案；
• 模型窃取攻击则重点关注保护在算法领域的知识产权，避免其衍生风险。

此外，AI的技术安全问题也催生了行业标准的发展，报告汇总介绍了医疗行业、汽车行业、通信行业、金融行业相关标准。

AI安全的行业发展

人工智能安全是一个快速发展的行业，需要不断创新和投入研发。随着人工智能技术的进一步发展和普及，人工智能安全将成为一个重要的领域，为保护人工智能系统和用户提供更安全的环境。

在监管发展方面，报告指出，最少应从法律法规、政策指引、行业标准、国际共识等多个方面进行考虑，应对人工智能安全的多重挑战。

在法律法规上，欧洲议会2023年6月14日通过了《人工智能法案》的初稿，有望成为世界首个针对这一新兴技术的全面监管法案， 这是一项关注人工智能安全开发和应用的法律，如ChatGPT和Bard。它对风险最高的技术使用施加了限制，例如面部识别软件的使用。

在政策指引上，人工智能的设计必须确保公平和透明，避免偏见和歧视。我国自2017年陆续发布《新一代人工智能发展规划》、《个人信息安全规范》、《新一代人工智能治理原则》、《新一代人工智能伦理规范》、《关于规范和加强人工智能司法应用的意见》、《算法推荐管理规定》、《互联网信息服务深度合成管理规定》等大量的政策法规文件均提出了“安全可控”的人工智能治理目标。

在行业标准上，人工智能安全的行业标准还处于起步阶段。人工智能安全（AI安全）的行业标准的发展是为了确保人工智能系统在设计、开发和应用过程中的安全性和可靠性。CSA大中华区正在制定AI安全相关标准，希望通过标准制定，促进产业有序发展。

在国际共识上，CSA于2023年5月发布《ChatGPT的安全影响》白皮书，强调了GPT技术在提升生产力和改变软件开发实践上的潜力，同时也指出区分其人工智能安全的合法和非法使用的挑战。

《ChatGPT的安全影响》的发布也让人工智能安全即AI安全进入到了人工智能第四个发展阶段，即国际共识的产生阶段。《ChatGPT的安全影响》提供了一些关于人工智能安全的一致意见与重要参考。

展望

人工智能安全是一个不断发展的技术领域。我们需要不断研究和创新，以应对新的安全威胁和挑战。只有确保AI系统的安全性和可靠性，才能更好地发挥其潜力，为人类社会带来更多的福祉。

CSA大中华区正在推进多项AI安全相关工作，包括AI安全标准制定、AI安全认证课程开发、AI安全神兽方阵报告编制，有意向参与单位可联系CSA大中华区秘书处叶女士 19925407556 联系。