当前位置:   article > 正文

产品与应用双管齐下,大模型“千帆时刻”来了!_ernie 3.5、ernie 4.0、ernie speed、ernie tiny、ernie l

ernie 3.5、ernie 4.0、ernie speed、ernie tiny、ernie lite模型参数分别有多少

2024年3月27日,是百度智能云千帆大模型平台发布1周年的日子,百度智能云动作频频——3月21日全新发布了5款大模型产品并全面升级AppBuilder、3月27日发布7大应用,让我们切实感受到了大模型领域的“千帆时刻”来临,百度智能云由此成为名副其实的“大模型超级工厂”。

千帆大模型家族上新三足鼎立势成

一年以来,千帆大模型平台秉持“从算力、模型、到应用层层结合,为企业提供一整套大模型开发工具”的初心,历经了多次升级,从ERNIE 3.5到ERNIE 4.0,如今更是一口气推出3个轻量级大模型、2个垂直场景大模型,进一步充实了千帆ModelBuilder大模型服务,从而形成了千帆大模型平台的文心大模型、轻量级大模型、垂直场景大模型的三足鼎立。

百度智能云千帆大模型平台模型矩阵

毋庸置疑,超大规模参数的大模型的实力超群,但并非所有大模型用户,都需要排水量6万吨以上的大型“航空母舰”,可能3吨以下的小型“航空母舰”更适合自己。“在与行业客户的交流中我们发现,除了极少的大客户对大模型有极致的效果追求,更多的企业和机构往往要综合考量大模型的使用效果、性能以及成本,即‘效价比’”,百度副总裁谢广军表示。

由此,百度智能云ERNIE Speed、ERNIE Lite、ERNIE Tiny三款轻量级大模型应运而生,帮助用户针对特定使用场景进行模型精调,在确保效果的同时节省成本。

“大哥”ERNIE Speed推理场景下拥有最高128k的上下文长度,在处理知识问答等任务时,能够更好地处理上下文的依赖关系,生成更加连贯和准确的预测或回答。同时,针对特定场景可以将ERNIE Speed作为基座模型进行精调,模型效果可以追平甚至超过旗舰级大参数规模大模型,效价比大幅提升。

“二哥”ERNIE Lite的参数量则更小,也更加适合搭载在低算力的AI加速卡上处理推理任务,在兼顾模型效果与推理性能的同时,大幅降低客户落地应用成本。作为ERNIE-Bot-turbo模型的升级版,ERNIE Lite在情感分析、多任务学习、自然推理等场景下的应用效果提升20%。推理调用成本大幅下降53%。

“三弟”ERNIE Tiny为客户提供了极致低成本、低延迟的最佳选择。在检索、推荐、意图识别等高并发、低延时等应用场景中,ERNIE Tiny的优异性能呈现了不俗表现。在某对话推荐业务场景中,精调后的ERNIE Tiny在搜索引擎推荐词激发环节,相比ERNIE 3.5,对话轮次增长了3.5%,成本下降了32%。

这还不够,百度智能云还针对不同的作战场景,提供更多的“舰种”给用户。比如针对角色扮演类应用场景(如游戏NPC、客服对话等)推出ERNIE Character,工具调用场景(对话中使用外部工具、调用业务函数等)推出ERNIE Functions。相信随着更加深入的调研和研发,百度智能云“大模型超级工厂”还会推出更多的垂直场景大模型。

千帆大模型应用打板七种武器现世

大模型再好、再强,最终还是要有实际的应用,来体现大模型的价值。而走过“百模大战”的2023年,2024年作为大模型应用元年,必将掀起一场“千用之争”。

3月27日,百度智能云推出的7款大模型应用,向广大开发者示范了逐鹿大模型应用元年的7种武器的开发方向。

基于百度智能云千帆平台构建的7款大模型应用产品

智能创作应用“一念”在创作前可以对接用户已有内容资产,形成企业独家素材库;在创作中可以实现AI作图、AI做海报、AI做视频,不仅包含金融、汽车等多种行业定制模板,随取随用,还可二次编辑海报、甚至对视频直接进行拆条,实现高度可控的内容创作;完成后,还可以分发至APP、小程序、搜索、信息流。

数字人应用“曦灵”作为国内首个大模型全面重构的数字人平台,曦灵可为用户提供2D真人、3D写实、3D超写实的人像,实现直播带货、视频制作、数字员工、数字人代言人等多种应用。大模型加持下的曦灵数字人直播,可15分钟快速完成直播间搭建,大模型自动生成匹配产品特色的讲品话术,无需配置问答库也可开启智能互动问答。同时,数字分身也可在短视频制作、课程录制等方面,大幅解放人力。

智能客服应用“客悦”作为国内首款大模型重构的智能客服,客悦通过大模型技术可实现更友好的对话,用户问题的自助解决率超过90%。目前,客悦已覆盖金融、能源、运营商、航司等领域,不仅可集成在客户业务系统中、也可与客服软件平台、云通信平台打通。

知识管理应用“甄知”作为一站式知识管理平台,甄知结合大模型全面重构了企业知识生产、加工、组织、获取、应用全链条,帮助客户实现企业知识的一站式高效管理。

办公入口应用“超级助理”作为大模型加持的一站式超级办公入口,超级助理可以快速对接企业内部账号,让每个企业获得信息、数据、知识、业务办理一站式超级入口,打造更优质的办公体验。

数据分析应用“GBI”作为国内首款全智能生成式商业智能产品,GBI无需复杂的数据库语言,大白话提问就能完成查询、绘图、归因、预测、洞察、总结等全链路数据分析任务。

智能编码应用“Comate”作为全栈智能代码助手,Comate已覆盖100多种主流开发语言、支持常用IDE。本次的2.0版本能力全面增强,模型更强大,更贴合软件研发现场,而且面向个人开发者免费开放使用——单行/多行续写、生成单元测试、多条推荐、注释生成代码等基础功能可无限次使用,修复建议、长函数拆分、chat提问等高级功能面向所有开发者限免使用。通过Comate+开放平台,可自助对接企业私域知识、第三方服务与能力,进一步提升模型生成的准确率和操作的丰富度,高效满足企业定制化需求,助力企业低成本打造自己的智能代码助手。通过AutoWork新能力,可深度解读企业与个人私域代码库,不仅能直接询问与代码库任何有关问题,还可直接完成需求拆解分析,不需要阅读各种开发文档,直接挂载就能完成代码生成。目前,已有超过10000家企业注册试用Comate,企业客户的采纳率达近50%,金融、汽车等多个行业均有头部企业客户购买试用。

据了解,本次升级的7大产品已实现全面SaaS化,企业在网页端即可使用。对于安全需求更高的企业,也可选择私有云版本。

大模型应用开发神器,AppBuilder再进化

“一枝独秀不是春,百花齐放春满园”。百度智能云深谙此道,因此在推出上面这些应用的同时,也升级了其AI原生应用开发平台AppBuilder,继续大幅降低AI原生应用开发门槛,帮助更多的开发者参与到大模型应用开发中来。“大模型应用的本质,是对企业原有应用系统的重要升级。未来,每个企业都将拥有大模型应用Copilot,我们期望与所有的合作伙伴,在应用为王的时代一起赢未来。”百度智能云副总裁喻友平表示。

百度智能云千帆AppBuilder再升级

AppBuilder底层由基于百度多年技术和实践经验沉淀的大模型组件、AI能力组件的基础组件和面向典型应用场景深入调优建设的一系列高级组件构成。基础组件与高级组件共同支撑Agent,一方面可以通过工作流编排实现更为复杂的业务逻辑,另一方面Agent也具备强大的自主任务规划能力,能够理解用户意图自动规划执行路径,实现多工具的自动编排和执行。这些能力通过零代码态、代码态两类开发方式提供服务,更好地匹配不同开发者的使用需求。

开发完成后,应用可多渠道分发与集成,AppBuilder支持将应用一键分发到微信客服、微信公众号、Web端/H5及百度灵境矩阵等主流渠道。基于百度灵境矩阵,应用可在百度搜索、百度信息流等主流场景分发与挂载。真正实现应用开发出来后,就直接触达用户,打通从AI原生应用创建到开发再到分发的全流程。

升级后的AppBuilder开放的工具组件多达55个。包括基于百度多年技术积累和自有业务沉淀的大模型组件、AI能力组件,也包括搜索等百度特色的业务组件、和多场景的第三方API工具,另外还提供了 RAG(知识检索问答)、GBI(生成式数据分析)等根据典型应用场景深入调优的高级能力组件。值得一提的是,百度智能云本次还众望所归地发布了向量数据库VDB 1.0这个基础组件,集成全面的运维控制和安全防护能力,兼容千帆、LangChain等主流生态系统,能够帮助企业轻松管理数以千万计的文档知识,最大支持百亿向量存储规模以及毫秒级的向量检索速度。

在组件之上,AppBuilder推出Agent应用框架,具备精准的任务自主规划能力,目前对多种应用工具的自动编排准确率已超过90%。AppBuilder还支持开发者接入自定义工具,通过将自动编排与手动编排相结合,实现更复杂场景应用的需求定制。Agent框架内的代码解释器能力,也在本次升级中提升了40%的性能、在复杂的数据分析场景的生成结果可接受度高达95%,以应对各类数据分析与信息处理的场景。

此外,AppBuilder SDK发布了Agent API,支持开发者将Agent便捷集成到自己的业务系统中,同时AppBuilder SDK面向主流AI原生应用场景提供了丰富的应用样例,目前已在Github开源,支持各个组件自由调用的灵活编排,帮助开发者实现应用的二次开发和便捷集成。

1场产品发布,1场应用发布,这只是起步。接下来,百度智能云马不停蹄,10天之后,首届“百度智能云GENERATE全球生态大会”4月9日在成都拉开帷幕,势必将进一步推动大模型产业落地,促进AI原生应用的全面繁荣。让我们共同期待。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/602425
推荐阅读
相关标签
  

闽ICP备14008679号