人工智能专题：生成式人工智能的风险和机遇管理_生成式人工智能的网络舆情风险研究现状

今天分享的人工智能系列深度研究报告：《人工智能专题：生成式人工智能的风险和机遇管理》。

（报告出品方：普华永道）

报告共计：16页

引言

2022年11月，我们迎来了一场真正的革命。一夜之间，即便是仅会使用聊天软件的网民都感受到了人工智能的魔力。在短短一周内，便有上百万用户通过ChatGPT撰写短文、编写计算机代码、创作艺术、把长文精炼为更有文采、更简洁的短文。

与此同时，一些心怀不轨的群体则试图利用生成式人工智能编写恶意软件、散播更具迷惑性的钓鱼邮件和伪造更逼真的虚假身份。这似乎预示着大规模欺诈、隐私泄露、虚假信息和网络攻击正向我们袭来。

在ChatGPT亮相仅数月后，生成式人工智能便深入地融入我们的生活和业务。活跃消费用户增长之快前所未有。从OpenAl的GPT3到GPT4，人工智能的功能实现了飞跃，在代码编写和中级专业写作方面的成绩显著。各大科技公司也不甘落后，纷纷推出/更新竞争产品:创业公司发布了定制应用程序的模型;包括普华永道在内的各大公司已宣布大规模投资自家的“CompanyGPT”，以供内部使用和对外提供新服务。

但担忧也随之而来，有人告诫“具有人类竞争智能的人工智能系统可以对社会和人类构成深远的风险”社会大众和行业专家对此都深感忧虑。该项技术的头部供应商也承认存在类似风险。

风险管理关乎成败。如果公司希望成功实施生成式人工智能计划并取得竞争优势，则需要评估该技术可能给全公司带来的风险。为此，公司需要一套风险管理框架，以便更好地抓住机遇。针对生成式人工智能，采用以风险为导向的方法将确保公司在数字化道路上，始终符合监管机构、消费者和其他利益相关者的期望。公司只有在采用生成式人工智能的同时建立信任，才能快速、充分地利用这项改变世界的技术带来的红利。

企业面临的风险

生成式人工智能是人工智能家族中的一个强大分支，对企业具有颠覆性影响。它能够支持企业运营的几乎所有方面 (包括客户服务、软件开发和数据分析)实现自动化和提升。借助人工智能，公司能针对不同客户定制个性化互动，改善互动方式，从而提升客户关系。人工智能可以自动完成批量任务，例如处理保险索赔和沟通或执行某些软件开发任务。通过人工智能，团队能更轻松地了解非结构化数据，包括合同、发票、客户反馈、保单、保险理赔员告知单、绩效评估、医疗记录等。

员工生产力可以大幅提升。根据OpenAl的估计，每10名员工中约有8名可通过生成式人工智能自动完成其至少10%的工作任务，而这仅仅是起步生成式人工智能工具可以自动完成例行任务，使员工得以解放，从而投身更具创造性的工作，或以更创新、更全面的方式理解复杂主题和任务，提升批判性思维。随着技术需求的持续增长，生成式人工智能的功能也在不断进步。仅仅不到四个月，人工智能语言系统就在复杂度和功能性两方面取得了显着进步发展劲头势不可挡。公司想要搭上人工智能的快车，实现持续发展，则需尽早招募风险专业人员。如此方能树立公司信心，顺利实施和推进生成式人工智能项目。

生成式人工智能对企业的影响

企业在涉足生成式人工智能时需重点关注以下方面。

职能转型:重构运营

为快速获得投资回报，部署生成式人工智能的“最佳着力点”很明确，即于运营各方面(例如营销、财务、供应链和税务合规) 全面部署，以实现自动化和提升。凭借生成式人工智能，公司可最大限度地利用现有资源、强化决策能力、提升客户和员工体验。生成式人工智能可以优化数据集和文档集的整理，简化人工研究工作，还可用于起草财务、风险和合规性报告、定制个性化客户服务方案、识别人工报告中违规点。然而，为确保结果可靠，企业应依托负责任的人工智能框架施加强有力的监管

负责任的人工智能:建立信任和管理风险

企业想要通过生成式人工智能实现彻底革新，信任是首要前提。这需要企业负责任地使用人工智能，制定精细的实施方案，确保使用过程中的诚信和道德标准。通过整合技术、流程和技能，负责任的人工智能框架可以解决生成式人工智能的相关风险，例如网络威胁、隐私问题、法律影响、性能问题、偏见和知识产权风险。为了有效实施负责任的人工智能，最好的方法是将信任融入设计，从起步阶段便将信任纳入公司体系，并根据经验教训不断完善。

员工:培养技能，适应新工作方式

生成式人工智能可以为知识型员工赋能，助力员工在更短的时间内取得更大的成果。然而，为了充分利用人工智能的潜力，公司应当为员工提供必要的技能培训，适应新工具和新工作方式。企业必须深谙运用之道，切勿因生成式人工智能看似简单而掉以轻心。随着人工智能的采用，新的岗位也将应运而生，如提示工程师和模型专家。这些人才的组合好比“人工智能工厂”，为企业人工智能系统的实施和维护提供支持。

云和数据:其定增长基础

生成式人工智能可挖掘非结构化数据的潜力，以此支持决策优化、收入增长和业务扩展。在推进数据和应用程序现代化时，公司应当充分考虑生成式人工智能，进而从根本上改变云应用的构建和运作方式。

新商业模式:数据货币化和行业重塑

如果企业能自主地将非结构化数据转换为可实现的构想或新软件代码、产品、服务，或为每位客户提供真正意义上的定制体验，未来将会如何? 生成式人工智能提供了这种可能，它既能建立新商业模式，也能颠覆基本价值链。企业在利用生成式人工智能提升运营效率的同时，不妨思考这项技术在近期将如何实现公司业务和所在行业的颠覆。

识别生成式人工智能的应用场景

生成式人工智能可在企业运营的大多数方面（从客户服务到软件开发和数据分析）实现自动化和提升。企业可以从以下角度识别应用场景。

行业：生成式人工智能技术能够解决不同行业 （例如医疗保健、科学研究和金融）的众多问题。 哪些生成式人工智能技术可用于企业所在 的行业？生成功能如何助力企业立于不败之地？

业务职能：生成式人工智能技术可用于研发、 营销、销售、客户支持、运营、法律和后台流程。 生成式应用程序如何提供尽善尽美的服务？

任务类型：某些类别的任务（如汇总、转换和问 答）最适合生成模型的技术机制。 这些功能如何融入企业的业务流程？

输出数据形式：生成技术可生成全新的文本、代码、 图像、音频、视频等。 团队和员工个人每天产出何种类型的内容？

企业的IT和风险专业人员可以帮助企业加速实施负 责任的生成式人工智能。他们可以确保生成式人工智能的隐私保护到位、公平（不良偏见得到有效管理）、有效可靠、负责透明、可解释和可说明。换言之，即是赢得信任。

管理新增和加剧的风险

因生成式人工智能的使用情况不同，公司还可能面临其他风险，尤其是在公司计划创建与基础模型关联的专有模型并添加专有或第三方数据的情况下。

公司的风险专业人员有助于获取各利益相关方对生成式人工智能的信任。因此，他们应将信任融入设计，以信任为价值主张。

而非一味追求速度，以此赢得客户、投资者、业务合作伙伴、员工和社会的认可。风险领域专家应考虑隐私、网络安全、合规、第三方管理、法律义务、知识产权方面的全部风险，并相互协作管理好整体企业风险。

司时，公司应与人才/人力资源负责人合作，制定各级培训计划，让每位员工熟知生成式人工智能的风险与回报。安排经验丰富为人员检查生成式人工智能输出的“初稿”。

监控员工表现，防止随时间推移出现“技能萎缩”、自满、质量下降的情况。

对于公司而言，制定有效的人工智能治理策略至关重要。除风险管理专业人员外，公司内外部人员均可能影响公司负责任地使用生成式人工智能的能力， 包括数据科学家、数据工程师、数据提供方、领域专家、社会与文化分析师、多样性、公平性、包容性与可接取性、社区影响领域的专家、用户体验设计师、治理专家、系统出资人、产品经理、第三方实体、评估人员以及法律和隐私保护专业人员。

董事会和董事成员可采取的措施

首先，董事会要提高董事对人工智能和生成式人工智能的认识，利用管理层和外部资源，紧跟技术发展潮流，与时俱进，了解新的用例、商业模式的变化、相关风险并坚持负责任的实施原则。

"事需要从业务角度考虑人工智能和生成式人工智能技术及其使用。董事会行使监督职能，负责向管理层提出问题(本报告中分享了一些可供借鉴的示例），并适时向管理层提出质疑。董事会应考虑采用人工智能和生成式人工智能是否需要额外的技能，或是否依赖管理层或第三方。

复核人工智能的应用成本和效益。考虑与利益相关方的沟通。制定问责治理模型。监督人工智能监管计划以衡量项目成果。

底线

生成式人工智能的合理应用能够为公司节省时间和成本，优化产品和服务质量，甚至提高声誉。但该方法应以人为主导、科技为辅助，切勿颠倒了主次。

公司想要从这一突破性技术中获得切实的最大收益，必须从其整体利益出发，管理好应用人工智能技术带来的诸多风险。同时也需要利益相关方集思广益，全面考量引入生成式人工智能解决方案带来的影响和问题。实现风险与创新回报的平衡将有助于树立公司信誉并赢得竞争优势。

员终，生成式人工智能的进步取决于公司员工。提升员工技能，使员工了解使用生成式人丁智能作为辅助或指导工具的局限性，以便员工充分利用其潜能。在制定企业风险防范措施的基础上，赋能员工运用自身经验，对生成式人工智能模型的输出结果进行批判性评估。每一位有判断力的用户都是信任的守护者。

如果企业对生成式人工智能风险有深刻理解，懂得如何设计、衡量和管理可信赖的人工智能系统，将更快地推进人工智能转型，更容易发现高价值的使用场景。

报告共计：16页