赞
踩
首先,非常荣幸和开心作为开发者和创业者代表参加百度Create AI大会分论坛圆桌论坛的问答环节。
在分论坛活动开始前,参加了文心智能体平台(之前叫灵镜矩阵)的首届智能体创意大赛,
很幸运获得了第一期的Top 5,也深深体会到《人人都可以是智能体的开发者》,只要你有创意就能被看见。
Create 2024百度AI开发者大会,主论坛大佬们给我们分享了很多AI相关的知识,演讲非常精彩,内容也非常吸引人,干货满满,对于博主而言也是增长了不少见识,开阔了视野。AI和我们的生活和工作越来越近,甚至已经能够深深感受到AI他们是无所不在,正如我们感受到的,AI和大模型正在重构和改变着千行百业。自动驾驶、智能机器人、智能客服等等都会更加成熟和完善。
本论坛汇聚大语言模型智能体顶尖智慧,探讨AI技术助力普通人创造、激发探索、推动行业应用等前沿话题,期待与各领域杰出伙伴,共创AI智能体未来新篇章。
本次圆桌论坛,主要讨论三个方向,分别是智能体的定义、智能体的技术、以及智能体的应用和商业模式。
❤️圆桌论坛讨论的第一个问题:关于智能体的本质和它的价值?
智能体的本质和定义是什么?我们摒弃掉教科书上的定义,⽐如环境感知、从数据中学习、推理决策这些名词,⼤家有哪些新的的⻆度。(这里小伙伴们也可以在评论区留下您的看法,简单展开来说说)
博主结合相关知识点,整理如下大概本质分析:
持续进化,自我成长,对环境感知的越多,提供学习数据的越多,推理能力越来越强,那么TA的效果就越明显越准确,
比如:自动驾驶汽车、智能家居系统、医疗诊断系统、金融投资决策系统
总之,未来智能体非常值得期待和更多落地场景,提高我们的工作和生活水平
1-智能体本质和价值
前面几位老师对智能体从不同角度进行了阐述,讲得非常详细也讲的非常好,我这边主要从两点进行简单讲述,创新和降本增效。
❤️圆桌论坛讨论的第一个问题补充问题:目前还没有太多成熟智能体的原因?
同时主持人也提到了市面上其实并没有太多成熟的智能体,这个是什么原因呢
当时漏了回答原因这点,现在总结回想,以及和朋友讨论到智能体市场时,大概也能整理出一些原因,
比如,朋友他们大多担心的是,智能体回答输出内容的准确性和稳定性问题,其实就是对智能体信任的问题。
尽管和他们说,这个是完全可以通过限定智能体输出的内容,但是他们依然是存在担心的,我觉得这个需要点时间和适应过程。
❤️圆桌论坛讨论的第二个问题:智能体是不是伪命题?
这个当时在现场也是比较简洁的作了回答,博主认为智能体本身能够带来一些价值以及解决一些实际问题。
比如:智能体落地能够帮助我们在客服领域解决重复回答得问题,这样能够减少重复回答的时间成本,从而提升效率,留出宝贵时间做更多提升自己的事情。
总结:尽管线下演讲过很多,但是类似本次圆桌论坛,特别是有一定知名度以及现场直播类的博主还是第一次参加,多少会有点紧张,所以,第一个问答,现场以及小伙伴会觉得有点不连贯。同时现场此类问答大多数也是临场发挥,也是靠平时的积累和实际经验来回答。对于临场发挥,博主对自己评价还是有待提高,以及专业度和相关知识点再多接触多理解多巩固。
圆桌论坛讨论的第三个问题:智能体在端侧部署,应该重点考虑那些问题?
斯坦福⼤学研究⼈员推出了 Octopus v2 ,20 亿参数的模型可以在智能⼿机、汽⻋、个⼈电脑等端侧运⾏,在准确性和延迟⽅⾯超越了 GPT-4,并将上下⽂⻓度减少了 95%。此外,Octopus v2 ⽐ Llama7B + RAG ⽅案快 36 倍。这项研究降低了在移动设备上开发和部署智能Agent应⽤的技术⻔槛,也为Agent应⽤的商业化提供了新的思路。
2-智能体端侧部署
❤️1、端侧方向
那么端侧AI是不是智能体应该重要考虑的⼀个⽅向?
基于上面这个问题,应该要重点考虑的一个方向,原因如下:
实时性:端侧AI则能够将计算和分析任务直接放在设备端进行,减少了数据传输和处理的延迟,使得智能体能够更快地做出决策和响应。
降低成本:云端AI需要依赖强大的服务器和数据中心来支持,而端侧AI则能够利用设备自身的计算能力,减少了对外部资源的依赖,从而降低了运行成本
安全和隐私:端侧AI则能够在本地进行数据处理和分析,减少了数据泄露的风险,提高了用户隐私的保护水平。
❤️2、端云结合
有位老师提到的一点,我觉得非常不错,他说未来肯定是端云结合,特定功能的小模型
万卡集群训练,减少无效模型训练,入门级大模型训练都要一百多万元,小白就不太建议去做,这个就交给专家做,毕竟专业的事情交给专业的人去做,我们只需要去用就行,在大模型之上的应用进行创新等
圆桌论坛讨论的第四个问题:智能体的应用与商业模式?
基于各⾃熟悉领域的场景及需求,谈⼀下对智能体有哪些期待
对于我来说,本次问答就是从部署和使用智能体过程中遇到的问题和效果如何,有没有一个盈利方向?
3-智能体应用
❤️1、智能体应用
博主这一次算是二次创业,大模型之上的应用落地,比如智能体就可以给我们创业者提供了一次很好的机会。我们不需要考虑太多大模型底层技术的问题,我们只需要使用它,本次论坛也提到了,最简单大模型训练也得上百万,小白就不要去尝试了。
博主也可以分享一个实际案例,博主已经有一个盈利的图片类应用,并且集成了智能体图片功能,因为智能体生成的图片效果也非常不错,能够给我的图片类应用增加一些亮点的功能,从而提高用户的留存率和支付率。
比如,下面就是博主创建图片类相关的智能体,生成的效果也是非常不错:
4-智能体部署遇到问题
❤️2、创作方向
对于大部分刚接触智能体(AI应用)的小伙伴来说,对于如何创作一个智能体,还真是会成为他们遇到的第一个问题,也会有点迷茫,不知所措,至少需要花点时间想一想智能体叫什么、应该如何描述这个智能体,以及创作步骤等,都需要一点时间适应。
但是,对于有一定开发经验的小伙伴来说,相对适应过程会比较快一点。
不管如何,你是AI小白也好,有一定开发经验也好,有一点可以肯定的是,在查看文档和视频讲解后,可以说不到一分钟就能创建一个效果还不错的智能体。
下面这个智能体出来的效果就不错,也是获奖的一个智能体
https://mbd.baidu.com/ma/s/wggKfGmG
情感小说家,这个智能体同样是通过简单描述快速创建,并且增加了个性化输出,效果都非常不错
❤️3、API调用
在调用api接口时,博主发现api接口存在一定的延迟,这个可能是多方面因素影响,但是这个并不影响输出的效果,
经过咨询官方人员,这个属于正常范围,因为也是在测试阶段,响应数量高肯定存在一定延迟,且开放的资源还不是很多,相信后面响应速度会很快。
返回的内容json格式,并且内容是设置返回了Markdown格式,如下:
{
"status": 0,
"message": "succ",
"logid": "249603xxx",
"data": {
"content": [{
"dataType": "txt",
"data": "## 声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Cpp五条/article/detail/584457
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。