当前位置:   article > 正文

大模型「进化手册」:AI 原生应用该如何落地?

大模型「进化手册」:AI 原生应用该如何落地?

img

从开发、产品落地到商业化,企业需要的服务在百度智能云里闭环了。

狂奔两百多天后,大模型战役进入了第二幕。

作为新一代基础设施,大模型本身并不直接产生价值,智能时代的未来不会仅仅是大模型本身,而将是大模型生态体系。业内共识是,在大模型之上开发出来的 AI 原生应用,才是下半场突围的关键。

目前,国内头部厂商的普遍做法,是以通用大模型为底座,在此基础上对原有产品进行重构,并通过服务平台连接 B 端企业,多方位打通开发、落地和变现,建立全链路生态体系。

但正如今天在通信领域、服务体系运营商仅有几家巨头,未来大模型生态体系也会屈指可数。要建立提供孵化、训练、应用开发、商业变现、社区构建等完整的大模型生态体系,并非一家之力能完成。

为了加快这一步伐,在百度世界大会 2023 上,百度智能云提出,为合作伙伴建设国内第一个大模型全链路生态支持体系。

领先一步很重要,但生态的和谐,更需要与众同行。从搭建业界首个大模型实训营、提供孵化支持的 AI 加速器、以及一站式交易的 AI 原生应用商店等,百度智能云生态体系,是国内 AI 走向繁荣的一个关键节点。

1、重构中的大模型应用

过去半年,国内有超过 130 个大模型问世,从某种意义上说,大模型在第一阶段的较量,更多属于模型概念的普及、以及对标 ChatGPT 能力的追赶,而解决实际场景下的问题,大模型才能发挥真正的作用,这是大模型应用在中场竞争下关键性的角色所在。

以一家提供股权投资数据和赋能的公司产品迭代为例:这是一家位于上海、专注于一级市场量化投资的数据平台开发的公司,在股权财政大背景下,他们借助自身数据优势以及 AI 原生技术,引入大模型后,提供了大量基于股权投资链的数据及评分模型产品,受到了广泛下游市场用户的青睐,每个专题覆盖企业数量可以达到几百到几万家不等。

面对大量的产业链数据,他们过去多以堆人力的形式在前端进行录入和校验,而在后端,开发人员的响应速度也十分有限。如今通过大模型,最直观的改变是,C 端从业者可以用对话、文档生成或是其他更便捷的方式对科创类数据进行高效利用,同时大模型也提升了公司内部员工对新闻等另类数据的加工效率,让辅助决策成为可能。

另一个故事发生在传统 ERP 行业中。对头部企业来说,要重构产品、革自己的命并非易事。

此前几年,企业纷纷浩浩荡荡地启动数字化转型,从 OA 系统、到 CRM、ERP 等等,中间累积了大量的数据。随着企业研发、生产、销售、人力等各项业务场景数字化深入,如何借助大模型的力量,发挥出数据的最大价值,用数据进行决策、分析正成为企业商业制胜的关键所在。

在今年三十周年活动上,金蝶发布了新一代企业管理产品金蝶云·苍穹 GPT,正是其在大模型时代的一次重要尝试。

金蝶云·苍穹 GPT 使用了百度智能云千帆平台所提供的大模型推理、微调以及算力资源服务,聚焦到财务分析、人才推荐、供应链风险分析、自然语言生成报表等多个应用场景,从传统 ERP 模式中升级为 EBC(企业后台统一服务)的优选平台,为企业提供了完备的数字化解决方案,对企业来说,有了更强大的业务创新能力与中台架构,其市场竞争力也能得到提升。

综合上述两个案例可以看到,如何借助大模型能力迈入 AI 智能时代?一条显而易见的道路是:AI 原生应用。

以重构的方式打破原有的产品范式,将大模型的能力释放至千行百业中,与实际场景面对面了解需求,聚焦 AI 能够具体做什么、带来哪些方面的提升。

过去数月,这是除了模型层之外、所有大模型从业者在卷应用时的最核心问题。拥抱大模型后,MaaS 成为了一种新的应用开发的范式。

而当许多厂商还停留在比拼模型能力、打磨技术和产品的第一或第二阶段时,就在百度世界 2023 现场,百度率先甩出了十余款 AI 原生应用,包括国内首个生成式商业智能产品百度 GBI、百度网盘“云一朵”、如流、新百度地图等,可以说百度是模型和应用两手抓,在卷应用、重构产品这件事上,百度已经领先了一个身位。

2、应用在前,大模型在后

大模型的重要性在于,它通过一个基础大模型来完成多场景任务,作为底座能够诞生无数 AI 原生应用。但想要缔造持续健康的大模型应用生态,仅依靠百度自己“卷”自己是难以实现的。

随着大模型底座能力不断提升,新的 AI 原生应用也逐渐迎来爆发期。百度智能云千帆大模型平台推出仅半年,平台上就涌现了智能创作、问诊咨询、电商、短视频、游戏、情感陪伴,智能鼠标等多样化的应用。截至目前,千帆平台已累计为超过 17000 家客户提供服务,大模型调用量高速攀升。

可以看到,企业和开发者的焦点已然发生转变。那么在大模型应用的竞技场上,企业们最关心的是什么?

据 AI 科技评论观察,大模型应用的落地有两堵围墙:

其一,许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题,但由于信息的快速迭代和交互壁垒,他们并没有很好的路径得以了解、触达到已经诞生的大模型应用。

其二,在应用的供应侧,企业和开发者完成 AI 原生应用的创新后,如何在可控的营销成本下,精准地寻找到它的目标客户也是一大难题。闭塞的交易链路不仅阻碍了产品应用的商业化变现,苦于没有用户买单,加上缺乏市场反馈,也不利于应用接下来的迭代升级。

在这一背景下,百度智能云推出千帆 AI 原生应用商店,率先打出了大模型应用“App Store”的概念,它要解决的核心是连接供应和需求双方,打通交易链条,将所有优质的 AI 原生应用集成在一个平台上,让用户更精准地找到目标应用。

img

五大领域多款 AI 原生应用

目前在百度智能云千帆 AI 原生应用商店上,我们可以看到,除了百度自己重构后的 AI 原生应用,还入驻了许多其他基于千帆平台创新的 AI 原生应用,覆盖智能办公、营销服务、行业智能、生产提效、分析决策五大领域,为多样化需求的用户提供了可以灵活选择的大模型应用采购模式。

更重要的是,AI 原生应用的商业链路也得到了打通。

通过在千帆 AI 原生应用商店上发布,让应用找到相应的客户来试用和买单,甚至借助百度的销售资源引流和获客。而在经过客户使用之后,企业也可以在较短时间内拿到市场第一手反馈,从而对原先的应用进行优化和不断迭代,更好地形成闭环和正循环。

作为业内首发布 AI 原生应用商店的平台,百度智能云出手速度之快,聚焦商业企业和开发者的商业变现痛点,更快地抢占用户心智,让应用商店更繁荣、使用更便捷,满足用户诉求。

3、打造全链路生态支持体系

通过建一座大模型应用商店,搭建交易平台、瞄准商业化,百度关注的是实实在在的问题。但大模型应用的落地还离不开模型训练、推理、计算还有运维、系统、工程等方面的投入。

如何让企业和开发者用上大模型、用好大模型?基于这一思考,百度智能云基于千帆大模型平台打造了“大模型超级工厂”提供服务方案。同时,推出了大模型全链路生态支持体系,在 AI 原生应用商店之外,根据不同成长阶段提供定向专属支持。

AI 原生应用最终要落到何处?走向产业侧大生产,企业做大模型应用的方式,不是亲自下场、从基础大模型出发自己“造轮子”,而是搭上生态的“顺风车”。

今年3月百度智能云推出千帆大模型平台,它是全球首个一站式的企业级大模型生产平台,不仅提供基于文心一言或者第三方开源大模型的大模型服务,还提供全套工具链和开发环境,帮助企业开发自己的专属大模型。

目前千帆平台纳管了42个国内外主流大模型,企业客户可以快速调用包括文心大模型在内的各种大模型的API,获取大模型能力。对于第三方大模型,千帆平台还针对性地进行了中文增强、性能增强、上下文增强等优化。同时,千帆平台为大模型的再训练、微调、评估和部署等环节提供全生命周期工具链、业界最多的41个高质量行业数据集,帮助客户针对自身业务场景快速优化模型效果。

在百度世界 2023 现场,百度集团执行副总裁、百度智能云事业群总裁沈抖宣布,“云智一体”战略内涵升级为“云智一体,深入产业,生态繁荣,AI普惠”。与之前相比,“生态繁荣”是新增的内容。

“生态繁荣”,已成为百度智能云大模型时代战略的重要一环。

为了帮助企业和开发者更好地使用千帆平台,百度在大模型全链路生态支持体系中,针对不同环节都提出了扶持方案。

也就是说,百度智能云不仅要帮助创业者、开发者实现从 0 到 1 的突破创新,还要帮助他们实现商业价值和社会价值。

首先在开发环节中,企业和开发者仍面临着技术门槛问题。

大模型能力要得以释放,必须嵌入到应用中才能转化为业务价值。这不仅要求企业和开发者能理解大模型的技术原理,还要具备能应用到具体业务场景中的知识储备,这对于新入行的开发者来说有一定的技术难度,即便是深耕多年的技术人员、也需要紧跟技术迭代更新知识。

为此,百度智能云推出了业界首个大模型实训营——千帆 AGI House。

img

实训现场

实训营内开设了学、练、训、考四大环节,参与训练营的开发者可以从数据导入、标注,大模型微调、评估,部署推理服务,以及 Prompt 设置等,全面参与到大模型开发、管理、应用的各个流程当中,由专家进行面对面指导打磨应用。

以软通动力为例,长期以来,人员招聘都是软通所面临的重要难题,每年软通动力需解决 10 万个人力需求,审核和分析简历多达 200 万份,一年内有超过 70 万场面试,这些都是由 3000 名招聘顾问来完成的。

在与百度智能云合作后,借助大模型能力进行需求分析,软通推出了 AI 原生应用面试助手,通过大模型招聘顾问来快速掌握知识,并且模型还能候选人的情况自动生成面试题。把招聘顾问秒变成面试官,不仅缩短了候选人平均等待时间 60%,面试质量也得到了明显提升,综合面试通过率提升 30% 左右。

其二,对于缺少技术培训赋能、资本及产业落地支持的初创企业,百度智能云推出了 AI 加速器。

在拉动资源的孵化环节中,百度智能云不仅同北大智能所、清华互联网产业研究院、赛迪等顶尖的科研院所接合作,还拉动了创业黑马、爱分析等为创业者提供全方位服务的企服平台、产业园区和许多投资机构的资源,为参加 AI 加速器的企业提供系列扶持。目前, AI 加速器累计吸引了全球共 57 家创新企业的参与,共同开发了超过 22 个商业化应用。

img

千帆AI加速器成员

第三,在大模型社区生态方面,百度也做了很多的工作。千帆社区不仅有丰富的官方教程、案例、实践指导,还有开发者们分享的真实案例和实践经验,遇到技术难题时,也可以随时在社区里求助、由其他开发者提供答疑帮助,让每一个开发者都可以为这个生态贡献自己的力量。

MaaS 时代,大量企业都将在大模型冲击下,迎来意想不到、甚至颠覆性的产业再造。而生态,正是跑进大模型时代的最后一公里。

浪潮之中,百度的态度很鲜明,首先是做出能力更强的通用大模型,恰如此次百度世界 2023 所亮相的“综合能力与 GPT-4 相比毫不逊色”的文心大模型 4.0,并迅速完成一批应用的重构,打出大模型技术的可行性。

更重要的是,面向客户落地大模型的五类需求,百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。同时推出大模型全链路生态支持体系,加速企业 AI 原生应用落地和商业化。

接下来的竞赛,不再是局限于大模型的追逐,更是如何对应用产品进行自我优化、革新。如今,AI 原生应用的号角已经吹响,在走向生态繁荣的进程中,百度定义了 AI 的下一波发展。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/代码探险家/article/detail/853527
推荐阅读
相关标签
  

闽ICP备14008679号