看了百度世界2023，千帆大模型平台绝对利好开发者！_百度千帆大模型用的什么技术框架

✨前言

10月17日，百度世界2023在北京首钢园召开。百度智能云在大会期间宣布：全面升级“云智一体”战略，面向客户落地大模型的五类需求提供全栈服务方案；面向AI原生应用开发，重磅发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地；发布国内首个AI原生应用商店，以及国内首个大模型全链路生态支持体系，赋能伙伴商业增长，共建、共享繁荣的大模型产业生态。

✨“云智一体”战略升级，为大模型落地五类需求提供最优解

自2020年起，百度智能云在业界率先提出“云智一体”战略，并在技术架构与服务等方面进行了多次迭代升级。本届百度世界大会，“云智一体”的战略内涵全面升级为“云智一体，深入产业，生态繁荣，AI普惠”。
百度集团执行副总裁、百度智能云事业群总裁沈抖表示，人工智能与云计算的深度结合是企业快速落地AI原生应用的关键，这也是百度智能云始终倡导和践行的“云智一体”理念。目前，百度集团所有应用和服务全部基于”云智一体“技术架构运行在百度智能云上。此外，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”分别给出了最佳服务方案。

✨发布“千帆AI原生应用开发工作台”，加速企业AI原生应用落地

为了满足企业敏捷、高效地进行AI原生应用开发与运维的需求，降低AI原生应用开发门槛，百度智能云重磅发布“千帆AI原生应用开发工作台”，将开发大模型应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦在自身业务，而无需为开发过程牵扯多余精力。具体来讲，千帆AI原生应用开发工作台主要由应用组件和应用框架两层服务构成。

应用组件服务由AI和基础云两大类组件构成，是对底层服务能力的组件化封装，让每个组件完成一段特定的功能性任务。“AI组件”中既包含诸如问答、思维链（CoT，Chain of Thought）等大语言模型组件，还包括文生图、语音识别等多模态组件。例如，用户可以使用问答组件完成问答场景中常用的总结摘要任务。而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。

应用框架则是通过将上述这些组件有选择地串联、组合起来，让它们能够比较完整地完成一个特定场景的任务。目前，千帆平台上提供的检索增强生成（RAG）、智能体（Agent）、生成式商业智能（GBI）就是典型的AI原生应用框架。在每个框架下，百度智能云还提供丰富的样板间，支撑开发者敏捷、高效地进行AI原生应用开发。

✨检索增强生成RAG框架的强大之处

检索增强生成（RAG，Retrieval Augmented Generation）框架，可以更高效的利用企业专有领域内的知识，并在大模型的帮助下根据相关问题做出精确回答，是专业知识问答类AI原生应用的必备核心能力。

大会现场，百度智能云技术委员会联席主席、百度智能云应用产品中心总架构师孙珂，还进行了如何基于RAG框架，为三一重工快速开发知识问答应用的实操演示：只需在千帆AI原生应用工作台中选择预制的RAG框架，进行相应的参数配置等工作，就可以快速实现三一重工官网智能客服应用的开发与上线。

在这段演讲中，详细的讲解了如何使用RAG框架为三一重工快速开发知识问答应用的实操演示，我们需要导入的三一重工提供的挖掘机SY305H的操作保养文档有48页，2w多字，里面有非常多的参数和细节，如果让一个员工去掌握这些内容并回答用户提出的问题，还是很有难度的，而交给RAG框架就会很容易，我们只需要创建一个知识库并导入文档数据，使用RAG原理，分割文档成小片段并构建向量数据库，配置应用管理知识库，生成代码并集成到三一重工官网，就会生成在线智能客服。

当我们去问在线智能客服关于SY305H应该用什么样的冷却液时，它却能在长达2w字的文档里快速检索并且回复的内容简洁，具有逻辑性。显然，当我们问其他问题时，智能客服也能准确回复。但我们可能会有疑虑，像这样强大的千帆AI原生应用工作台开销成本会很高吧，但沈抖却表示，搭建这样一个智能客服，即使需要处理几千篇万字长文档，成本也只需要几百块钱；而之后客户每一次咨询，成本仅需几分钱！！！

✨流行的应用框架-智能体Agent

智能体（Agent）作为当前业界流行的应用框架，可以对人类给定的任务进行自动拆解，自动规划并调用各种组件协同完成任务，同时根据任务完成效果得到反馈，改进自身能力。目前，Agent框架已经在工业、交通等领域得到了广泛应用。

中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”，实现了任务指令的自动感知、分解与执行。比如，在发现钢铁产量不达标时，用户只需提问一次，大模型就可以自动调用平台纳管的各种资源和API，完成BI取数、第三方根因分析等工作，找到未达标原因并及时调整排产计划并发送邮件通知调度人员。

✨沈抖对百度未来的展望

沈抖在演讲中表示，“大模型时代风起云涌，有人争着弄潮，有人忙于逐浪，而我们致力于造一艘坚实的大船，用更高效的算力基础设施、更好用的一站式大模型平台、更丰富的行业解决方案和百花齐放的AI原生应用，与各位客户、伙伴一起在大模型商业化的征途中乘风破浪、赢未来！”