赞
踩
在自动驾驶、客服机器人等人工智能应用中发生了一系列安全事件,并引发了人们对人工智能应用前景的担忧。
人工智能安全被提上重要议程,学术界加快了人工智能安全理论与技术的研究。
从学科发展的角度看,人工智能和网络空间安全存在密切的联系,人工智能安全则是这两个学科方向发展交叉的必然结果。
人工智能安全是人工智能与网络空间安全的交叉学科。两个学科各自已经建立了深厚的理论和技术体系,而进一步看清这两个学科的交叉点及交叉的逻辑联系,则是理解和学习人工智能安全的关键。
基于大数据驱动的人工智能发展背景,充分考虑数据在人工智能中的重要性,人工智能安全的数据主线是学习可以参考的逻辑。
数据清洗、转换、特征选择/特征提取、表示、模型学习(监督学习、无监督学习)与攻击等过程;噪声、非平衡、小样本等特殊问题。
既注重人工智能安全的相关理论,也要强调人工智能安全实践技术。
阿里云天池实验室的10个案例-Python
人工智能的概念自1956年被提出来以后,随计算技术发展而得到了发展。人工智能理论与技术所涉及的范畴不断扩大。
不同学派对人工智能研究有不同的主张,从而形成了各自的主义,他们从不同的角度来思考、研究人工智能理论和方法。影响比较大的流派及其奉行的主义,主要:
各个学派提出了大量人工智能理论和方法,但不管哪个学派几乎都没有关注到人工智能安全。
直到最近几年来,在大数据的驱动下,建立各种智能模型。人工智能安全问题逐步得到人们的关注,这是由于大数据处理及人工智能本身的技术架构所决定的。
大数据驱动的人工智能
人工智能模型要求数据不断更新,而大数据的更新管理难度也使得数据对人工智能应用的安全风险大大提升。典型的数据安全问题有:数据过度采集、数据偏见歧视、数据资源滥用、数据伪造、威胁公平正义、隐私泄露和大数据杀熟等。
数据、算法、模型和框架在人工智能安全中的重要性。
人工智能安全的层次结构
信息技术都存在脆弱性或安全漏洞,这是产生安全问题的根本所在。人工智能技术也不例外,人工智能安全问题的产生也在于本身所存在的漏洞。
信息安全的基本属性包括:机密性(Confidentiality)、完整性(Integrity)、可用性(Availability)、可控性(Controllability)和不可否认性(Non-Repudiation)。
智能系统作为信息系统的一种,除了拥有传统意义上的信息安全基本属性外,在模型算法层面还具有独有的属性。
其中,人工智能模型与算法的攻击、人工智能防御与治理这两部分与狭义人工智能安全相关。它们侧重于监督学习、无监督等各类机器学习模型的攻击方法与防御方法,是人工智能安全体系中的重点部分。
在模型的对抗攻击与防御中,攻击者的主要目的是,破坏机器学习系统、扰乱机器学习系统的检测识别功能以及从机器学习系统中进行隐私窃取。作为安全研究,攻击与防御是两个重要的视角。
具体方法包括小样本学习、非平衡数据处理和噪声学习三类。
对于解决网络信息安全攻击与防御问题、对抗攻击防御和人工智能安全治理等中的主要问题,有一定参考价值。
小样本、非平衡和噪声问题是三个典型的人工智能数据问题。
这三个问题产生的原因,一方面是来自业务数据本身的问题,例如,入侵检测中某些类别的样本数据不容易获得、用户在标注数据时由于疲劳等原因导致标签出错。
另一方面的原因则是来自对抗攻击环境下的攻击行为,攻击者通过在训练数据中添加噪声,恶意修改样本标签,在机器学习模型训练时选择特定的样本分布等方式来实现对机器学习系统的攻击。
例子:金融欺诈检测、入侵检测等
检测中的核心部件通常是基于人工智能的各类模型,因此模型及相关数据成为攻击者的重要知识,必然成为对抗的重要途径和场所。
人工智能对抗攻击技术体系包括了理论和攻击方法,其中理论部分主要针对人工智能的一些基础模型及其相关算法。
从攻击者的角度,目前发现许多针对人工智能模型的攻击方法,并从攻击目的、攻击知识等多个角度进行归类。
当训练数据中包含个人敏感属性时,在机器学习过程中进行隐私保护成为机器学习是否能成功的重要问题。
对机器学习的隐私攻击是一种特殊的对抗攻击,它专注于训练数据的敏感性获取、模型参数的推断,其攻击目的与一般的对抗攻击不同。
机器学习隐私攻击的途径是多样化的,对于不同的机器学习系统而言,隐私攻击方法有一些类似的方法。在数据层面,也存在针对各种不同类型数据的隐私攻击方法。
从机器学习隐私保护技术来看,总体上可以分为两大类,即从数据角度看的隐私保护和从计算架构角度的隐私保护。
从数据角度看的隐私保护
从计算架构角度的隐私保护
从技术的角度看,人工智能治理的目的在于避免人工智能技术在实际应用中被无意识的误用和有意识的滥用。
在云计算技术的驱动下,人工智能正以一种服务方式展现出来。其中,最典型的就是机器学习即服务。
概率论与数理统计
线性代数
最优化方法
离散数学
2017年9月,联合国教科文组织与世界科学知识与技术伦理委员会联合发布了《机器人伦理报告》
2019年4月,欧盟委员会发布了《人工智能道德准则》,列出了可信赖人工智能的七大准则。
2021年9月25日由国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》
人工智能数据安全白皮书,信通院,2019
互联网大数据处理技术与应用(公众号)
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。