人工智能安全如何保障？代表委员热议

以下文章来源中国警察网

全国两会上代表委员热议——综合施策 给AI加上安全护栏

AI是什么？为什么这么火？AI就是人工智能，通常人工智能是指通过普通计算机程序来呈现人类智能的技术。AI的研究由来已久，也颇有成果。智能手机的语音助手应该算是最贴近日常生活的AI，不过现在大家对它早习以为常。但是ChatGPT等AI大模型的问世一石激起千层浪，很多人在惊喜之余不免有些担忧甚至恐慌——AI如此智能，人类社会的未来将走向何方？安全该如何保障？

今年的政府工作报告提出，要“深化大数据、人工智能等研发应用，开展‘人工智能＋’行动”。多位全国人大代表、全国政协委员拟提交建议提案，从多个角度为人工智能安全健康发展出谋划策。

人工智能带来的主要安全风险

人工智能的安全问题，既有近忧也有远虑。“从‘近忧’看，AI大模型落地应用主要面临的安全风险有生成不当内容、产生隐私问题、引发技术攻击等。”全国政协委员、中国工程院院士吴世忠表示。在“远虑”方面，技术发展失速、伦理规范和道德约束的缺乏等是吴世忠主要的担忧。他表示，2024年人工智能安全治理会成为大国角力的主要方向，人工智能热门应用领域或将出现“灰犀牛”安全事件，潜在风险不容忽视。

“AI加剧了数据泄露、欺诈攻击、社会治理等安全威胁，加剧了网络安全易攻难守的局面。”全国政协委员、奇安信董事长齐向东认为。随着人工智能技术的不断发展，安全威胁加剧，安全防护难度激增。在具体的行业发展方面，来自智能汽车、文化出版等行业的代表委员也提出：人工智能对行业造成冲击，带来安全隐患。

“先进的人工智能技术在智能驾驶各个场景实现广泛应用。”全国人大代表、小米集团董事长兼CEO雷军表示，“但是，当前行业内的智能驾驶产品在功能定义、安全性能、人机交互等方面有较大差异，存在驾驶安全和数据安全隐患。”全国人大代表、长安汽车公司董事长朱华荣也认为，目前，智能驾驶在智驾安全和信息安全方面存在挑战。

在人工智能领域版权保护方面，全国政协常委、中国作协副主席兼书记处书记邱华栋介绍，目前主要存在人工智能生成内容的法律属性模糊，其版权问题缺少切实可行的法律、行业界定标准等问题。

人工智能法律法规体系亟需完善

为了建立更加完善的人工智能法律法规体系，全国两会上，多位代表委员建言献策——“要构建系统化的人工智能法律法规体系，积极推动人工智能领域立法进程。”全国人大代表、中国移动河南公司董事长楼向平呼吁。“加快推进人工智能法出台，构建人工智能算法治理体系，弥补监管体系空白。”全国政协委员、上海市浙江青年人才联合会主席、金杜律师事务所高级合伙人张毅表示。

全国政协委员、中国移动通信集团上海有限公司董事长陈力建议出台司法解释、法律修正案等，对当前人工智能已经和可能引发的法律争议提供解决方案。全国人大代表、科大讯飞公司董事长刘庆峰建议系统性制定国家通用人工智能发展规划，加速通用人工智能技术相关的法律法规制定。

此外，一些代表委员建议确立人工智能相关安全标准。全国政协委员、360集团创始人兼董事长周鸿祎建议，研究制定保障通用大模型安全的标准体系，推动通用大模型开展安全评测、接入安全服务，降低安全风险。“加快制定人工智能行业标准，会同领域内专家、学者形成人工智能行业发展的标准化指引。”陈力表示。

对建立完善人工智能监管机制，形成各方共同参与的系统化治理体系，他们也提出了建设性的意见建议——张毅建议，强化由中央网信办牵头，国家发改委、工信部、公安部等部门共同参与的算法治理联席会议制度，引入“监管沙盒”等创新监管工具。全国政协委员、知乎创始人兼CEO周源建议，推动大模型研发机构和企业制定严格的保护政策和行为规范，严厉打击侵权犯罪行为。全国政协委员、广东省深圳市人大常委会副秘书长何杰则建议针对文字、图片、视频生成模型分类分级管理，紧跟技术发展情况，快速调整管理措施。

以技术反制“滥用技术”

人工智能研究具有高度技术性和专业的特点，各分支领域各不相通，因而涉及范围极广。要打败人工智能带来的不安全因素，就要“魔高一尺、道高一丈”。从人才侧看，不少代表委员建议完善人才培养体系，为我国人工智能纵深发展提供保障。齐向东建议，鼓励成立校企共同体，培养更多大数据、人工智能、网络安全等新兴产业领军人才，壮大“AI+安全”领域的实战型、复合型人才队伍。“建议在九年义务教育阶段设置人工智能通识课程，加大对高校人工智能学科建设的投入，支持大型科技企业和教培机构培育人工智能应用型人才。”雷军表示。张毅建议借助市场力量，外聘或者借调人工智能领域的专家共同参与监管法律体系的建立。

从企业能力建设方面看，周鸿祎表示，“建议国家给予兼具‘安全和AI’能力的企业专项扶持政策，更好发挥其解决通用大模型安全问题的重要作用。”齐向东也支持“AI+安全”产业发展，建议设置专项基金，对研发创新“AI+安全”产品的企业给予政府基金、贴息贷款或科研项目等支持。从技术发展方面看，楼向平建议，设立人工智能可信性指南，加强安全技术攻关，构建内生安全底座。“要加快研究数字技术防范人工智能风险，在数字技术层面加快识别AIGC内容的研究，能够做出智能判断，防范相应的风险。”全国人大代表、南昌大学元宇宙研究院院长闵卫东建议。

关于我们

ABOUT US

上海容大数字技术有限公司，简称“上海容大”，是一家以AI和语音大数据分析技术为核心的、数据为驱动力的科技型企业。

公司总部位于上海，并在合肥创立人工智能研究院，在广州设有办事处，下辖全资子公司上海浩宜信息科技有限公司。

愿景：成为智能语音应用的行业引领者

使命：打造行业标杆解决方案，让容大走进每个客户心中

价值观：成就客户，诚信为本，敬业勤奋，追求卓越