整理18、19、20年关于《人工智能》的标准和评估规范_算法模型系统建设标准有哪些

前言

我们在人工智能领域研发、开发和应用时，需要有专业性的标准、标准化的指标、或评估规范等，在网上查找了一段时间，发现很多资料并不可靠，或简单介绍，让人头大呀；这里整理了一些比较专业的资料，分享给大家。

主要包括：

1. 人工智能机器学习模型及系统的质量要素和测试方法（2020）
2. 人工智能机器翻译能力等级评估标准化研究（2020）
3. 人工智能伦理与社会关注国际标准研究（2020）
4. 人工智能安全标准白皮书（2019）
5. 人工智能标准化与开源研究报告（2019）
6. 人工智能伦理风险分析报告（2019）
7. 人工智能标准化白皮书（2018）
8. 中国人工智能开源软件发展白皮书（2018）
9. 人工智能 深度学习算法评估规范（2018）

一、人工智能机器学习模型及系统的质量要素和测试方法（2020）

1）摘要

人工智能算法极易受到噪声、对抗样本的干扰产生不可预期的错误，存在严重的安全隐患。开展人工智能算法和机器学习模型的质量评测对于确保人工智能技术安全、可靠、可控具有重要意义。由北京航空航天大学牵头并联合中国电子技术标准化研究院等多家单位提出T/CESA1036-2019《信息技术人工智能机器学习模型及系统的质量要素和测试方法》。该标准规定了机器学习模型及系统的质量要素，提供了机器学习模型及系统的质量测试指标体系以及相应的测试方法，适用于机器学习模型及系统的设计、研发及质量评价。

2）资料下载

人工智能机器学习模型及系统的质量要素和测试方法

二、人工智能机器翻译能力等级评估标准化研究（2020）

1）摘要

近年来，机器翻译利用人工智能技术和专业人工翻译技术的相互耦合，能够满足对跨语种语言交流需求。目前机器翻译的产品服务已大規模应用于国际贸易、旅游、教育和日常生活当中，如何统一评估相关产品服务的质量成为亟待研究和解决的问题。基于国内外人工智能和机器翻译的标准分析，构建机器翻译系统的通用模型，建立译文质量和系统能力两个维度的机器翻译评估模型，在此基础上，开展机器翻译能力等级评估标准化并已应用于机器翻译评测验证。

2）资料下载

人工智能机器翻译能力等级评估标准化研究

三、人工智能伦理与社会关注国际标准研究（2020）

1）摘要

针对人工智能伦理与社会关注领域的国际标准化工作，梳理和分析了主要国际标准化组织在该领城的活动和现阶段研究现状，并提出了未来国际标准化组织的在该领域的发展方向以及我国在该领域的发展建议。

2）资料下载

人工智能伦理与社会关注国际标准研究

四、人工智能安全标准白皮书（2019）

1）来源

全国信息安全标准化技术委员会

大数据安全标准特别工作组

2）更新时间：2019年10月

3）前言

       需要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。人工智能（Artificial Intelligence，简称AI）经过60多年的演进，已发展成为研究和开发用于模拟、延伸和扩展人类智能的学科。近年来，在算法、算力和数据三大因素的共同驱动下，人工智能进入加速发展的新阶段，成为经济发展的领头雁和社会发展的加速器。目前世界主要国家均把人工智能作为国家发展战略。2017年我国发布《新一代人工智能发展规划》，将发展新一代人工智能上升至国家战略高度。随着人工智能在相关行业和人民社会生活中的深度融合应用，由此带来的国家安全、社会伦理、网络安全、人身安全和隐私保护多个层面的风险和挑战，也引起了社会的广泛关注。

人工智能安全标准化是人工智能产业发展的重要组成部分，在激发健康良性的人工智能应用、推动人工智能产业有序健康发展方面发挥着基础性、规范性、引领性作用。《新一代人工智能发展规划》中明确提出了“要加强人工智能标准框架体系研究，逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准”，切实加强人工智能安全标准化工作，是保障人工智能安全的必由之路。

为推动人工智能技术健康、快速、安全、有序的发展和推广应用，全国信息安全标准化技术委员会（以下简称“全国信安标委”）下设的大数据安全标准特别工作组启动了《人工智能安全标准化白皮书》编制工作，本白皮书主要围绕人工智能本身的安全，详细分析人工智能发展现状，面临的主要安全威胁和风险挑战，梳理总结国内外人工智能安全法规政策和标准化组织标准化工作进展。在此基础上，对人工智能安全标准化需求进行深入辨析，提出人工智能安全标准框架和标准化工作建议。

4）编写单位

中国电子技术标准化研究院
清华大学
北京百度网讯科技有限公司
华为技术有限公司
三六零科技集团有限公司
阿里巴巴（中国）有限公司
中国移动通信集团有限公司
中国人民大学
浙江蚂蚁小微金融服务集团股份有限公司
国际商业机器(中国)有限公司
北京天融信网络安全技术有限公司
联想（北京）有限公司
上海依图网络科技有限公司
深信服科技股份有限公司
深圳市腾讯计算机系统有限公司
北京三快在线科技有限公司（美团点评）
奇安信科技集团股份有限公司
陕西省网络与信息安全测评中心
北京猎户星空科技有限公司
中国科学院大学自动化研究所
四川大学
内蒙古自治区大数据发展管理局
维沃移动通信有限公司
北京大学
北京神州绿盟信息安全科技股份有限公司
阿里云计算有限公司
上海观安信息技术股份有限公司
OPPO广东移动通信有限公司
中国平安保险（集团）股份有限公司

5）目录

一、人工智能概述…………………………………………………………… 1
  1.1 人工智能迎来第三次发展浪潮 ………………………………… 1
  1.2 人工智能技术与应用进展显著 ………………………………… 2
  1.3 人工智能产业链初具规模 ……………………………………… 4
  1.4 我国人工智能应用场景广阔 …………………………………… 6
  1.5 人工智能总体发展水平仍处于起步阶段 ……………………… 7
二、人工智能安全法规政策和标准化现状………………………………… 9
  2.1 人工智能安全法律法规和政策 ………………………………… 9
    2.1.1 国际国外情况 ……………………………………………… 9
    2.1.2 国内情况 …………………………………………………… 15
  2.2 主要标准化组织人工智能安全工作情况 ……………………… 17
    2.2.1 ISO/IEC JTC1 ……………………………………………… 17
    2.2.2 ITU-T ……………………………………………………… 18
    2.2.3 IEEE ………………………………………………………… 18
    2.2.4 NIST ………………………………………………………… 21
    2.2.5 TC260 ……………………………………………………… 22
    2.2.6 其他标准化组织 …………………………………………… 25
  2.3 人工智能伦理道德工作情况 …………………………………… 26
三、人工智能安全风险分析与内涵………………………………………… 29
  3.1 新的攻击威胁 …………………………………………………… 29
  3.2 人工智能安全隐患 ……………………………………………… 31
    3.2.1 算法模型安全隐患 ………………………………………… 31
    3.2.2 数据安全与隐私保护隐患 ………………………………… 33

3.2.3 基础设施安全隐患 ………………………………………… 36
    3.2.4 应用安全隐患 ……………………………………………… 37
    3.2.5 人工智能滥用 ……………………………………………… 38
  3.3 安全影响 ………………………………………………………… 39
  3.4 人工智能安全属性和内涵 ……………………………………… 41
四、人工智能安全标准体系………………………………………………… 44
  4.1 人工智能安全标准化需求分析 ………………………………… 44
  4.2 人工智能安全标准与其他领域标准的关系 …………………… 46
  4.3 人工智能安全标准体系 ………………………………………… 46
    4.3.1 人工智能基础性安全标准 ………………………………… 47
    4.3.2 人工智能数据、算法和模型安全标准 …………………… 48
    4.3.3 人工智能技术和系统安全标准 …………………………… 48
    4.3.4 人工智能管理和服务安全标准 …………………………… 49
    4.3.5 人工智能测试评估安全标准 ……………………………… 50
    4.3.6 人工智能产品和应用安全标准 …………………………… 50
五、人工智能安全标准化工作建议………………………………………… 51
附录A 人工智能相关安全标准 ……………………………………………… 55
  A.1 TC260人工智能安全标准研究项目 …………………………… 55
  A.2 TC260人工智能安全相关标准 ………………………………… 56
  A.3 ISO/IEC JTC1/SC42人工智能安全相关的标准 ………………… 57
附录B 人工智能应用安全实践案例 （排名不分先后）  ………………… 58
  B.1 百度人工智能安全实践 ………………………………………… 58
  B.2 猎户星空人工智能安全实践 …………………………………… 61

B.3 清华大学人工智能安全实践 …………………………………… 63
  B.4 依图人工智能安全应用实践 …………………………………… 66
  B.5 IBM人工智能安全实践 ………………………………………… 69
  B.6 深信服人工智能安全实践 ……………………………………… 72
  B.7 360 人工智能安全实践 ………………………………………… 75
  B.8 阿里巴巴人工智能安全实践 …………………………………… 78
  B.9 华为人工智能安全实践 ………………………………………… 82
参考文献  …………………………………………………………………… 85

6）资料下载

链接：https://pan.baidu.com/s/1CQOiObjZrc_k5_KEghLHyA 
提取码：xwng

7）版权申明：资料来源中国电子标准化研究院的官网

人工智能安全标准白皮书

五、人工智能标准化与开源研究报告（2019）

1）来源    

国家人工智能标准化总体组

2）更新时间：二零一九年四月

3）前言：

背景及目的

自 2013 年以来，随着深度学习技术的不断发展，引发了新一轮人工智能热潮，诸如：AlphaGo、刷脸支付、无人驾驶、AR、无人超市等应用层出不穷。大量资本和并购的涌入，加速了人工智能和产业的结合，人工智能甚至有可能成为是继蒸汽机、电力和计算机之后，人类社会的第四次革命。人工智能（Artificialintelligence，AI）是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。在历史上，人工智能有过很多个定义，但是迄今为止没有一个官方的、统一的、正式的定义。人工智能最早由麻省理工学院的 John McCarthy 在 1956 年的达特矛斯会议上提出的：人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。

世界各国纷纷将发展人工智能作为抢抓下一轮科技革命先机的重要举措。随着人工智能领域国际竞争的日益激烈，2017 年国务院印发《新一代人工智能发展规划》，提出我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，为部署构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国构建了基础。

本报告中的开源指源码公开、源数据公开及其他成果形式（如软件、系统或平台架构等）的公开。近年来开源技术蓬勃发展，诸如计算机视觉开源社区OpenCV、开源数据集 ImageNet、开源智能终端操作系统 Android 和其他大量开源工具及平台，无不表明开源创新与协同有力推动了产业进程。同理，人工智能尤其是深度学习相关的开源蓬勃发展，也将对我国人工智能相关产业产生积极影响。

第一，人工智能开源有助于支撑人工智能领域形成高端产业集群优势，逐步引领世界前沿技术的发展。
第二，人工智能开源有助于吸引更多人才进入人工智能产业，建设多层次人才培养体系。
第三，人工智能开源有助于推动人工智能广泛应用，加快推动人工智能与各行业的融合创新和赋能。

本报告的价值

本报告旨在为政府及行业的政策制定者、企业业务决策者、技术决策者提供参考，促进经济社会各领域智能化转型，加速人工智能技术在全行业应用落地。

（1）促进人工智能产业的发展提升
报告集成了各行各业在人工智能领域的经典案例，提供了丰富的知识积累和发展经验，可以帮助决策者快速形成发展思路（包括实现方法和风险评估），促进行业的发展提升。

（2）加速人工智能技术的应用落地
报告描述了机器学习、深度学习开源技术全栈，通过介绍开源工具平台及基准的方法论，降低行业人员学习和应用人工智能的技术门槛，提升研发速度，降低研发和运维管理成本，使前沿技术和新兴算法能快速运用到具体领域业务中并创造价值。

（3）推动人工智能生态圈建设报告所描述的人工智能领域的经验和需求能够促进人工智能生态圈的良性发展，促进企业的技术创新。标准与开源的联动能使产业发展更加健康。

（4）推动产业以更开放的心态进行协同创新报告所倡导的开源开放的业态有助于推动中国人工智能开源走向更深层次，例如数据开放协同的文化及平台建设、开源分享思维和隐私保密需求的平衡等。报告会给出开放数据平台的构建思路及四种可供参考的方案。

4）编写单位 （排名不分先后）

中国电子技术标准化研究院                     中国科学院自动化研究所
华为技术有限公司                                   北京深睿博联科技有限责任公司
腾讯计算机系统有限公司                        成都四方伟业股份有限公司
京东数字科技控股有限公司                     英特尔（中国）有限公司
威麟信息技术开发（上海）有限公司      国际商业机器（中国）投资有限公司
深圳前海微众银行股份有限公司             机械工业第六设计研究院有限公司
浪潮软件集团有限公司                            深圳市商汤科技有限公司
重庆邮电大学                                         华夏芯(北京)通用处理器技术有限公司
南京云问网络技术有限公司                    西门子（中国）有限公司
中国电力科学研究院有限公司                金税信息技术服务股份有限公司
深圳云天励飞技术有限公司                    上海智能制造系统创新中心有限公司
重庆中科云从科技有限公司                    天津天大康博科技有限公司
苏州苏相机器人智能装备有限公司

5）目录

第一章 概述..................................................................................................................1
1.1 背景及目的....................................................................................................1
1.2 本报告的价值................................................................................................2
1.3 本报告的脉络梳理与导读............................................................................3
第二章 AI 产业现状及开源面临的宏观问题..............................................................4
2.1 AI 产业现状及产业链....................................................................................4
2.1.1 基础层................................................................................................5
2.1.2 技术层................................................................................................6
2.1.3 行业应用层........................................................................................7
2.2 AI 开源所存在的问题....................................................................................9
2.2.1 法律道德问题....................................................................................9
2.2.2 潜在锁定风险..................................................................................10
2.2.3 安全问题..........................................................................................10
2.2.4 标准统一问题..................................................................................10
2.2.5 版本兼容性问题..............................................................................11
2.2.6 行业问题..........................................................................................11
第三章 AI 开源生态现状............................................................................................12
3.1 AI 开源全栈（聚焦机器学习及深度学习）..............................................12
3.1.1 芯片使能..........................................................................................13
3.1.2 分布式集群......................................................................................15
3.1.3 大数据支撑......................................................................................16
3.1.4 数据管理..........................................................................................17
3.1.5 模型格式..........................................................................................18
3.1.6 深度学习框架..................................................................................18
3.1.7 机器学习框架..................................................................................19
3.1.8 知识图谱（知识库）......................................................................20
3.1.9 强化学习..........................................................................................20

3.1.10 模型中间表示层 IR........................................................................21
3.1.11 端侧推理框架................................................................................22
3.1.12 高级 API..........................................................................................23
3.1.13 开放数据集....................................................................................24
3.1.14 分布式调度....................................................................................26
3.1.15 可视化工具....................................................................................27
3.1.16 模型市场........................................................................................27
3.1.17 应用类项目....................................................................................28
3.2 开源组织......................................................................................................32
3.2.1 开源中国..........................................................................................32
3.2.2 开源社..............................................................................................33
3.2.3 OpenI 启智开源开放平台...............................................................35
3.2.4 Linux 基金会.................................................................................... 36
3.2.5 OpenStack 基金会........................................................................... 37
3.2.6 Apache 基金会.................................................................................38
3.3 组织/机构参与开源的角色及目的............................................................ 39
第四章 AI 开源技术目前在落地中存在的问题与差距............................................40
4.1 AI 在应用时的总体工作流..........................................................................41
4.1.1 概述..................................................................................................41
4.1.2 经过抽象的工作流实现..................................................................44
4.1.3 实际应用的 AI 工作流应具备的特点.............................................47
4.2 当前 AI 技术在行业应用中的现状及问题.................................................48
4.2.1 交通领域..........................................................................................48
4.2.2 油气领域..........................................................................................50
4.2.3 公共安全领域..................................................................................52
4.2.4 工业领域..........................................................................................55
4.2.5 电力领域..........................................................................................58
4.2.6 金融领域..........................................................................................60
4.2.7 医疗领域..........................................................................................62

4.3 问题总结及应对思路..................................................................................64
4.3.1 AI 开源软件的数据支持..................................................................65
4.3.2 AI 开源软件的算法..........................................................................66
4.3.3 AI 开源软件的分布式基础设施......................................................67
第五章 AI 数据开放及协同........................................................................................69
5.1 AI 数据的关系和需求..................................................................................69
5.1.1 面对的挑战......................................................................................69
5.1.2 AI 数据开放和协同中的相关方......................................................71
5.2 AI 数据开放和协同中相关行业分析..........................................................72
5.2.1 政府角度分析..................................................................................73
5.2.2 医疗行业分析..................................................................................74
5.2.3 金融行业分析..................................................................................76
5.2.4 交通行业分析..................................................................................77
5.2.5 物流行业分析..................................................................................78
5.2.6 制造行业分析..................................................................................80
5.2.7 教育行业分析..................................................................................81
5.2.8 石油行业分析..................................................................................82
5.3 AI 数据开放和协同的可行性......................................................................83
5.3.1 顶层设计..........................................................................................83
5.3.2 法律法规..........................................................................................84
5.3.3 数据治理..........................................................................................85
5.3.4 开源数据平台建设..........................................................................85
5.4 潜在解决方案..............................................................................................86
5.4.1 中心化模式......................................................................................87
5.4.2 混合型模式......................................................................................89
5.4.3 去中心化模式..................................................................................90
5.4.4 没有初始数据的模式......................................................................92
第六章 AI 领域开源与标准的关系............................................................................93
6.1 开源与标准联动的案例..............................................................................93

6.1.1 容器..................................................................................................93
6.1.2 大数据文件格式..............................................................................94
6.1.3 OPNFV（网络功能虚拟化）.......................................................... 95
6.2 AI 领域开源与标准联动的思考..................................................................96
6.3 本次标准机遇研究的范围与内容..............................................................97
6.3.1 行业应用标准..................................................................................98
6.3.2 AI 平台标准......................................................................................98
6.3.3 安全标准........................................................................................104
6.3.4 应用智能化水平评估....................................................................105
6.4 制定人工智能标准中要考虑的因素........................................................106
6.4.1 伦理与社会关注............................................................................106
6.4.2 监管与治理因素............................................................................107
6.4.3 把握开源与标准平衡，促进创新与产业发展............................108
结 语..........................................................................................................................109
附录 A........................................................................................................................110
表 A.1 AI 开源项目社区活跃度指标统计........................................................110
附录 B.........................................................................................................................113
表 B.1 第五章技术术语表................................................................................113
表 B.2 第六章技术术语表................................................................................115

6）资料下载

链接：https://pan.baidu.com/s/1av4ZHASA12FyMmtBTv5RVQ 
提取码：3641

7）版权申明：资料来源中国电子标准化研究院的官网

人工智能标准化与开源研究报告

六、人工智能伦理风险分析报告（2019）

1）来源    

国家人工智能标准化总体组

2）更新时间：二零一九年四月

3）前言：

人工智能伦理研究的背景与意义

自 1956 年的达特茅斯会议（Dartmouth Conference）提出人工智能概念以来，人工智能的发展经历了“三起两落”的曲折历程。2016 年 3 月，以 AlphaGo 以4:1 战胜人类棋手为标志，人工智能开始逐步升温，并成为各国政府、科研机构、产业界以及消费市场竞相追逐的对象。为了在新一轮国际竞争中掌握主导权，抢占人工智能发展的制高点，各国投入大量的精力和资金，开展人工智能关键技术的攻关与应用相关的研究与产品开发，并纷纷推出了不同的人工智能平台与产品。

我国人工智能的应用范围极广。从行业应用的角度看，在制造、物流、医疗、教育、安防等行业都有广泛应用。以制造业为例，当前的制造业不论是生产、流通还是销售，都正趋于数据化、智能化。大数据和人工智能技术可以协助企业分析生产过程中的全链路数据，实现生产效率、库存周转率、设备使用效率提升等目标。在智能制造进程中，工业机器人成为人工智能的典型代表，成为智能制造的重要实现端之一。就物流行业而言，人工智能的技术应用主要聚焦在智能搜索、推理规划、模式识别、计算机视觉以及智能机器人等领域。如今，现代物流企业纷纷尝试利用人工智能技术优化物流环节、提高物流效率。人工智能还能够帮助企业根据市场销售情况、供应链生产情况、物流配送、仓储库存水平，甚至每个环节的容错概率等等进行精准排产，最大限度利用已有资源。人工智能在医疗健康主要的应用领域则包括五个方面：临床决策支持、临床辅助诊疗系统、患者管理、辅助手术和患者照护的自动设备，即各种机器人、医疗机构的管理以及新药的研发。

人工智能在自动驾驶、医疗、传媒、金融、工业机器人以及互联网服务等越来越多领域和场景下得到应用，一方面带来了效率的提升、成本的降低，，另一方面，人工智能系统的自主性使算法决策逐步替代了人类决策，而这种替代有时非但没有解决已有的问题，还让已有的问题更难解决，甚至给社会带来了全新的问题。这些问题不仅仅引发社会的广泛讨论，更是限制人工智能技术落地的重要因素。其中最为典型的便是自动驾驶领域，社会的巨大需求与技术的不断成熟让自动驾驶成为了全球炙手可热的研究与发展领域，而其潜在的风险又驱使人们去反思技术带来的伦理问题。各国已有法律与政策的难以适用以及新政策的模糊不清也给自动驾驶技术的落地造成了困难。面对伦理风险与其潜能一样巨大的人工智能技术，人们急需一个广泛、普遍的伦理探讨，并在这些探讨的基础之上找到路径、梳理规范，以保证人工智能的良性发展。

目前，各国、各行业组织、社会团体和人工智能领域的商业公司纷纷提出人工智能的伦理准则，对人工智能技术本身以及其应用进行规制。中国政府把人工智能作为产业升级和经济转型的主要驱动力，鼓励、扶持并推动人工智能的发展。在我国推动人工智能发展的关键时期，推动对人工智能伦理和社会问题的探讨有极为重要的意义。因此，本报告以人工智能应用引发的社会伦理问题为出发点，在充分了解人工智能系统带来的伦理、法律和社会影响的基础上，分析人工智能应用即自主性决策结果而产生的社会公平、安全及问责等伦理道德问题，例如算法决策与歧视、隐私与数据保护、算法安全与责任、算法解释、算法与产权、算法与竞争、算法滥用以及强人工智能问题，通过遵循人工智能伦理原则与设计相应的风险指标体系，对人工智能的研发和应用提供风险管理指引，以便为人工智能伦理的行业实践提供初步的应用指南与建议，推动人工智能产业的良性、健康发展。

4）编写单位 （排名不分先后）

中国电子技术标准化研究院                          北京九天微星科技发展有限公司
中国人民大学                                                国家电网有限公司
北京理工大学                                                苏州中德宏泰电子科技股份有限公司
深圳市腾讯计算机系统有限公司                    中国航空综合技术研究所
北京航空航天大学                                         上海电器科学研究所（集团）有限公司
大成律师事务所                                             北京爱奇艺科技有限公司
京东数字科技控股有限公司                           北京西普阳光教育科技股份有限公司
昆山炫生活信息技术股份有限公司                华为技术有限公司
美国科文顿柏灵律师事务所                           中国船舶重工集团公司第七一六研究所
美团点评 西门子（中国）有限公司

5）目录

第一章 人工智能伦理研究的背景与意义..................................................................1
第二章 国内外人工智能伦理发展现状......................................................................3
2.1 国外发展现状................................................................................................3
2.2 国内发展现状................................................................................................6
第三章 人工智能技术的伦理风险..............................................................................8
3.1 算法相关的伦理风险....................................................................................9
3.1.1 算法安全............................................................................................9
3.1.2 算法可解释性..................................................................................10
3.1.3 算法决策困境..................................................................................14
3.2 数据相关的伦理风险..................................................................................15
3.2.1 隐私保护..........................................................................................15
3.2.2 个人敏感信息的识别和处理..........................................................17
3.3 应用相关的伦理风险..................................................................................19
3.3.1 算法歧视..........................................................................................19
3.3.2 算法滥用..........................................................................................24
3.4 长期和间接的伦理风险..............................................................................26
3.4.1 算法与就业......................................................................................26
3.4.2 算法与产权......................................................................................27
3.4.3 算法与竞争......................................................................................27
3.4.4 算法责任..........................................................................................28
第四章 人工智能伦理原则........................................................................................29
4.1 人类根本利益原则......................................................................................31
4.2 责任原则......................................................................................................31
第五章 伦理风险评估及其管理................................................................................33
5.1 人工智能伦理风险评估指标......................................................................33
5.1.1 算法方面..........................................................................................33
5.1.2 数据方面..........................................................................................34
5.1.3 社会影响方面..................................................................................34

5.2 行业实践指南..............................................................................................35
5.2.1 风险管理框架..................................................................................35
5.2.2 风险管理流程..................................................................................37
5.2.3 对相关人员进行培训......................................................................39
5.2.4 定期进行风险评估..........................................................................39
第六章 结论................................................................................................................40
附录：国外有关人工智能基本原则的文献..............................................................42

6）资料下载

链接：https://pan.baidu.com/s/1tgt27qIQFJLc0xYL3fccrw 
提取码：s593

7）版权申明：资料来源中国电子标准化研究院的官网

人工智能伦理风险分析报告

七、人工智能标准化白皮书（2018）

1）指导单位：国家标准化管理委员会工业二部

      编写单位：中国电子技术标准化研究院

2）更新时间：二零一八年一月

3）前言：

研究背景

人工智能概念诞生于 1956 年，在半个多世纪的发展历程中，由于受到智能算法、计算速度、存储水平等多方面因素的影响，人工智能技术和应用发展经历了多次高潮和低谷。2006 年以来，以深度学习为代表的机器学习算法在机器视觉和语音识别等领域取得了极大的成功，识别准确性大幅提升，使人工智能再次受到学术界和产业界的广泛关注。云计算、大数据等技术在提升运算速度，降低计算成本的同时，也为人工智能发展提供了丰富的数据资源，协助训练出更加智能化的算法模型。人工智能的发展模式也从过去追求“用计算机模拟人工智能”，逐步转向以机器与人结合而成的增强型混合智能系统，用机器、人、网络结合成新的群智系统，以及用机器、人、网络和物结合成的更加复杂的智能系统。

作为新一轮产业变革的核心驱动力，人工智能在催生新技术、新产品的同时，对传统行业也具备较强的赋能作用，能够引发经济结构的重大变革，实现社会生产力的整体跃升。人工智能将人从枯燥的劳动中解放出来，越来越多的简单性、重复性、危险性任务由人工智能系统完成，在减少人力投入，提高工作效率的同时，还能够比人类做得更快、更准确；人工智能还可以在教育、医疗、养老、环境保护、城市运行、司法服务等领域得到广泛应用，能够极大提高公共服务精准化水平，全面提升人民生活品质；同时，人工智能可帮助人类准确感知、预测、预警基础设施和社会安全运行的重大态势，及时把握群体认知及心理变化，主动作出决策反应，显著提高社会治理能力和水平，同时保障公共安全。

人工智能作为一项引领未来的战略技术，世界发达国家纷纷在新一轮国际竞争中争取掌握主导权，围绕人工智能出台规划和政策，对人工智能核心技术、顶尖人才、标准规范等进行部署，加快促进人工智能技术和产业发展。主要科技企业不断加大资金和人力投入，抢占人工智能发展制高点。2017 年，我国出台了《新一代人工智能发展规划》（国发〔2017〕35 号）、《促进新一代人工智能产业发展三年行动计划（2018-2020 年）》（工信部科〔2017〕315 号）等政策文件，推动人工智能技术研发和产业化发展。目前，国内人工智能发展已具备一定的技术和产业基础，在芯片、数据、平台、应用等领域集聚了一批人工智能企业，在部分方向取得阶段性成果并向市场化发展。例如，人工智能在金融、安防、客服
等行业领域已实现应用，在特定任务中语义识别、语音识别、人脸识别、图像识别技术的精度和效率已远超人工。

标准化工作对人工智能及其产业发展具有基础性、支撑性、引领性的作用，既是推动产业创新发展的关键抓手，也是产业竞争的制高点。当前，在我国人工智能相关产品和服务不断丰富的同时，也出现了标准化程度不足的问题。人工智能涉及众多领域，虽然某些领域已具备一定的标准化基础，但是这些分散的标准化工作并不足以完全支撑整个人工智能领域。另一方面，人工智能属于新兴领域，发展方兴未艾，从世界范围来看，标准化工作仍在起步过程中，尚未形成完善的标准体系，我国基本与国外处于同一起跑线，存在快速突破的机会窗口。只要瞄准机会，快速布局，完全有可能抢占标准创新的制高点，反之，则有可能丧失良机。因此，迫切需要把握机遇，加快对人工智能技术及产业发展的研究，系统梳理、加快研制人工智能各领域的标准体系，明确标准之间的依存性与制约关系，建立统一完善的标准体系，以标准的手段促进我国人工智能技术、产业蓬勃发展。

研究目标及意义

本白皮书前期在国标委工业二部和工信部科技司的指导下，通过梳理人工智能技术、应用和产业演进情况，分析人工智能的技术热点、行业动态和未来趋势，从支撑人工智能产业整体发展的角度出发，研究制定了能够适应和引导人工智能产业发展的标准体系，进而提出近期急需研制的基础和关键标准项目。

本白皮书并不预期成为人工智能领域的全面技术和产业综述，不求面面俱到，仅针对目前人工智能领域涵盖的技术热点和产业情况进行分析，研究提出人工智能标准体系。人工智能标准化工作尚处于起步阶段，本白皮书只作为人工智能领域技术、产业和标准化之间初始的连接纽带，并将在今后不断根据技术、产业和标准化的发展需求进行修订。本白皮书不过多地给出人工智能领域观点性的陈述，力求以较为浅显易懂的语言和方式进行阐述。

本白皮书的意义在于与业界分享人工智能领域的研究成果和实践经验，呼吁社会各界共同加强人工智能领域的技术研究、产业投入、标准建设与服务应用，共同推动人工智能及其产业发展。

4）编写单位 （排名不分先后）

中国电子技术标准化研究院
中国科学院自动化研究所
北京理工大学
清华大学
北京大学
中国人民大学
北京航空航天大学
科大讯飞股份有限公司
华为技术有限公司
国际商业机器（中国）有限公司
阿里云计算有限公司
中国科学院计算技术研究所
中国电信集团公司
腾讯互联网加（深圳）有限公司
阿里巴巴网络技术有限公司
上海计算机软件技术开发中心
上海智臻智能网络科技股份有限公司
北京爱奇艺科技有限公司
北京有生志广科技有限公司
极限元（北京）智能科技股份有限公司
北京字节跳动科技有限公司（今日头条）
北京商汤科技开发有限公司
浙江蚂蚁小微金融服务集团有限公司
百度网络技术有限公司
英特尔（中国）有限公司
松下电器（中国）有限公司
重庆凯泽科技股份有限公司
海尔工业智能研究院有限公司
重庆中科云丛科技有限公司
北京格灵深瞳信息技术有限公司

5）目录

1 前言 ....................................................................1
1.1 研究背景 ............................................................1
1.2 研究目标及意义 ......................................................2
2 人工智能概述 ............................................................3
2.1 人工智能的历史及概念 ................................................3
2.1.1 人工智能的起源与历史 .............................................3
2.1.2 人工智能的概念 ...................................................5
2.2 人工智能的特征 ......................................................7
2.3 人工智能参考框架 ....................................................8
3 人工智能发展现状及趋势 .................................................11
3.1 人工智能关键技术 ...................................................11
3.1.1 机器学习 ........................................................11
3.1.2 知识图谱 ........................................................13
3.1.3 自然语言处理 ....................................................14
3.1.4 人机交互 ........................................................15
3.1.5 计算机视觉 ......................................................17
3.1.6 生物特征识别 ....................................................19
3.1.7 虚拟现实/增强现实 ...............................................21
3.1.8 人工智能技术发展趋势 ............................................21
3.2 人工智能产业现状及趋势 .............................................22
3.2.1 智能基础设施 ....................................................23
3.2.2 智能信息及数据 ..................................................24
3.2.3 智能技术服务 ....................................................25
3.2.4 智能产品 ........................................................25
3.2.5 人工智能行业应用 ................................................27
3.2.6 人工智能产业发展趋势 ............................................31
3.3 安全、伦理、隐私问题 ...............................................32
3.3.1 人工智能的安全问题 ..............................................32
3.3.2 人工智能的伦理问题 ..............................................33
3.3.3 人工智能的隐私问题 ..............................................34
3.4 人工智能标准化的重要作用 ...........................................35
4 人工智能标准化现状 .....................................................37
4.1 国际标准化现状 .....................................................37
4.1.1 ISO/IEC JTC 1 ..................................................37
4.1.2 ISO ............................................................40
4.1.3 IEC ............................................................40

4.1.4 ITU ............................................................41
4.2 国外标准化现状 .....................................................41
4.2.1 IEEE ...........................................................41
4.2.2 NIST ...........................................................41
4.2.3 其它 ...........................................................42
4.3 国内标准化现状 .....................................................42
4.3.1 全国信息技术标准化技术委员会 ....................................42
4.3.2 全国自动化系统与集成标准化技术委员会 ............................43
4.3.3 全国音频、视频和多媒体标准化技术委员会 ..........................43
4.3.4 全国信息安全标准化技术委员会 ....................................43
4.3.5 全国智能运输系统标准化技术委员会 ................................44
4.4 人工智能标准化面临的问题和挑战 .....................................44
4.5 人工智能标准需求分析 ...............................................45
4.6 人工智能标准化组织机制建设 .........................................46
5 人工智能标准体系 .......................................................48
5.1 人工智能标准体系结构 ...............................................48
5.2 标准体系框架 .......................................................49
5.2.1 基础标准 ........................................................51
5.2.2 平台/支撑标准 ...................................................51
5.2.3 关键技术标准 ....................................................51
5.2.4 产品及服务标准 ..................................................53
5.2.5 应用标准 ........................................................54
5.2.6 安全/伦理标准 ...................................................56
5.3 近期急需制定标准 ...................................................56
6 人工智能标准化工作重点建议 .............................................59
附件 1 人工智能标准明细表 ................................................61
附件 2 应用案例 ..........................................................71

6）资料下载

链接：https://pan.baidu.com/s/1AzhTRViuK8VyFbDffAKF7Q 
提取码：e642 
7）版权申明：资料来源中国电子标准化研究院的官网

人工智能标准化白皮书（2018版）

八、中国人工智能开源软件发展白皮书（2018）

1）来源：

中国人工智能开源软件发展联盟

2）更新时间：二零一八年七月

3）前言：

随着新一代人工智能在全球各行业深入应用，传统生产方式、商业模式和产业生态等开始逐步重塑。国务院、工业和信息化部先后出台《新一代人工智能发展规划》、《促进新一代人工智能产业发展三年行动计划（2018-2020年）》等重要文件，提出建设人工智能开源开放平台要求，鼓励产学研用各方力量共同推进我国人工智能开源软件发展。人工智能开源软件是驱动人工智能技术创新和应用的重要支撑力量，为全球不同行业和企业带来全新的发展机遇，为我国在新时代加速技术创新和产业发展提供了重要契机；是全球技术创新的竞争高地；也是引领新一轮变革的主导力量之一。

人工智能开源软件从诞生至今经历了多个阶段的发展。如今在自然语言处理、计算机视觉、智能语音、无人系统、知识图谱、信息安全、虚拟现实等领域都有深度的应用。特别是近三年来，人工智能开源软件蓬勃发展，其数量已达到历史最高峰。同时也已成为发达国家政府、国内外顶尖学术研究机构、跨国技术全球企业、国际开源机构等组织的研究讨论的热点，备受产业界广泛关注和积极投入。在全球范围内，我国的人工智能开源软件虽然在部分领域实现了一些重要突破，但在地域分布、市场份额、完善程度、技术先进性等方面与国外相比仍然存在一定的差距。在我国，工业和信息化部也提出到2020年实现面向云端训练的开源开发平台，可支持大规模分布式集群、多种硬件平台、多种算法；实现面向终端执行的开源开发平台，可具备轻量化、模块化和可靠性等特征。因此，加强薄弱环节的研究、推进人工智能开源软件生态的全面发展、构建符合我国国情并凸显特色的人工智能开源软件、提升我国人工智能开源软件在世界上的影响力，是在这场重大技术创新和产业变革中重点的努力方向，也是促进我国人工智能技术创新和产业应用的关键抓手。

为推动人工智能开源软件快速而健康的发展，工信部信息化和软件服务业司指导中国电子技术标准化研究院，联合上海计算机软件技术开发中心、北京大学、中国科学院、北京京东尚科信息技术有限公司、深圳前海微众银行股份有限公司、蚂蚁小微金融服务集团、阿里巴巴（中国）有限公司、北京百度网讯科技有限公司、东软集团股份有限公司、顺丰科技有限公司等企事业单位，研究梳理人工智能开源软件发展现状，分析人工智能开源软件生态，提出我国人工智能开源软件发展建议，并提炼我国人工智能开源软件应用案例，编撰形成了《中国人工智能开源软件发展白皮书（2018）〉。白皮书内容详实、分析透彻，对各级产业主管部门推动人工智能开源软件技术创新和产业发展，开展相关工作具有较好的参考价值。希望各界共同努力，积极把握人工智能开源软件的发展趋势和规律，营造良好的发展环境，加速推动我国人工智能开源软件技术和产业的良性发展。

                                                                                                                                                             工业和信息化部
                                                                                                                                                             信息化和软件服务业司
                                                                                                                                                             2018年6月

4）编写单位 （排名不分先后）

中国电子技术标准化研究院
上海计算机软件技术开发中心
北京大学
深圳前海微众银行股份有限公司
北京京东尚科信息技术有限公司
东软集团股份有限公司
浙江蚂蚁小微金融服务集团股份有限公司
国信优易数据有限公司
青岛海尔科技有限公司
许继集团有限公司
阿里巴巴（中国）有限公司
顺丰科技有限公司
华南理工大学
北京市商汤科技开发有限公司
曙光信息产业股份有限公司
深圳市紫金支点技术股份有限公司
中国科学院软件研究所
北京华宇软件股份有限公司
哈工大机器人集团有限公司
北京百度网讯科技有限公司
华为技术有限公司
深圳市优必选科技有限公司

华东师范大学
东南大学
金税信息技术服务股份有限公司
深圳市北科瑞声科技股份有限公司
中国科学院自动化研究所
中国科学院计算技术研究所
上海交通大学
国泰君安证券股份有限公司
网易（杭州）网络有限公司
天津天大康博科技有限公司
中国人民大学
复旦大学
同济大学
西安交通大学
杭州海康威视数字技术股份有限公司
北京字节跳动科技有限公司
航天科工仿真技术有限责任公司
北京搜狗信息服务有限公司
平安科技（深圳）有限公司
上海软中信息技术有限公司
城云科技（中国）有限公司
兴业银行
北京凯思昊鹏软件工程技术有限公司
航天云网科技发展有限公司

北京小米科技有限责任公司
北京航空航天大学
北京华风创新网络技术有限公司
北京邮电大学
深圳赛西信息技术有限公司
北京理工大学
华中科技大学
神州土地（北京）信息技术有限公司
北京金山云网络技术有限公司
深圳TCL新技术有限公司
电子科技大学
河北中科恒运软件科技股份有限公司
上海智臻智能网络科技股份有限公司
广西北港信息工程有限公司
北京睿呈时代信息科技有限公司
北京青杏科技有限公司

5）资料下载

链接：https://pan.baidu.com/s/1pzE9HJJb087Nz7ib2wfxrw 
提取码：wgfe

7）版权申明：资料来源中国电子标准化研究院的官网

中国人工智能开源软件发展白皮书

九、人工智能 深度学习算法评估规范 （2018）

1）符合：中国人工智能开源软件展联盟标准 AIOSS

2）更新时间：二零一八年七月

3）前言：

本标准按照GB/T 1.1—2009给出的规则起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。

本标准由中国人工智能开源软件发展联盟提出。

本标准由中国电子技术标准化研究院归口。

本标准负责起草单位：中国电子技术标准化研究院、中国科学院软件研究所、上海计算机软件技术开发中心、北京航空航天大学、华东师范大学、中国科学院计算技术研究所、军事科学院国防科技创新研究院、国防科技大学、卡索(北京)科技有限公司、北京百度网讯科技有限公司、浙江蚂蚁小微金融服务集团有限公司、深圳前海微众银行股份有限公司、顺丰科技有限公司、深圳市优必选科技有限公司、北京京东尚科信息技术有限公司、深圳赛西信息技术有限公司、数据地平线（广州）科技有限公司。

4）目录

前言 ............................................................................... III
引言 ................................................................................ IV
1 范围 .............................................................................. 1
2 术语和定义 ........................................................................ 1
3 评估指标体系 ...................................................................... 2
3.1 评估指标体系表 ................................................................ 2
3.2 算法功能实现的正确性 .......................................................... 4
3.3 代码实现的正确性 .............................................................. 4
3.4 目标函数的影响 ................................................................ 4
3.5 训练数据集的影响 .............................................................. 4
3.6 对抗性样本的影响 .............................................................. 4
3.7 软硬件平台依赖的影响 .......................................................... 5
3.8 环境数据的影响 ................................................................ 5
4 评估流程 ........................................................................... 5
4.1 概述 .......................................................................... 5
4.2 确定可靠性目标 ................................................................ 6
4.3 选择评估指标 .................................................................. 7
4.4 评估准则 ...................................................................... 7
4.5 各阶段评估 .................................................................... 8
4.6 评估结论 ...................................................................... 8
5 需求阶段的评估 .................................................................... 8
5.1 概述 .......................................................................... 8
5.2 前提条件 ...................................................................... 8
5.3 输入 .......................................................................... 8
5.4 关键活动 ...................................................................... 9
5.5 输出 .......................................................................... 9
6 设计阶段的评估 .................................................................... 9
6.1 概述 .......................................................................... 9
6.2 前提条件 ...................................................................... 9
6.3 输入 .......................................................................... 9
6.4 关键活动 ...................................................................... 9
6.5 输出 ......................................................................... 10
7 实现阶段的评估 ................................................................... 10
7.1 概述 ......................................................................... 10

7.2 前提条件 ...................................................................... 10
7.3 输入 .......................................................................... 10
7.4 关键活动 ...................................................................... 10
7.5 输出 .......................................................................... 11
8 运行阶段的评估 .................................................................... 11
8.1 概述 .......................................................................... 11
8.2 前提条件 ...................................................................... 11
8.3 输入 .......................................................................... 11
8.4 关键活动 ...................................................................... 11
8.5 输出 .......................................................................... 12
附录 A（规范性附录） 深度学习算法可靠性评估指标选取规则 .............................. 13
附录 B（资料性附录） 深度学习算法可靠性评估实施案例 .................................. 15
参考文献 ............................................................................. 25

5）资料下载

链接：https://pan.baidu.com/s/1e27kkSGJfTpr6bIUpMsSAw 
提取码：dfsv 
6）版权申明：资料来源中国电子标准化研究院的官网

人工智能 深度学习算法评估规范

希望这些资料能有所帮助，欢迎交流。整理资料不容易，如果大家觉得不错的，希望点个赞呀。