devbox
小蓝xlanll
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

从大模型到Agentscope——分布式Multi-Agent应用开发与部署

作者：小蓝xlanll | 2024-03-17 16:08:59

赞

踩

从大模型到Agentscope——分布式Multi-Agent应用开发与部署

在这里插入图片描述

目录

在这里插入图片描述

Why需要分布式

在这里插入图片描述
在这里插入图片描述

案例

在这里插入图片描述
多进程的分布书版本能快速提升速度
在这里插入图片描述

分布式的挑战

在这里插入图片描述

AgentScope分布式解决 方案

在这里插入图片描述
实现RPC Agent
在这里插入图片描述
在这里插入图片描述

  • 基于Actor模式的并行调度
  • 缺点：需要Agent内部决定消息传递目标
    在这里插入图片描述
  • 被调用的Agent立即返回占位符placeholder
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
  • to_dist: 开启自动将单机进行扩展

在这里插入图片描述

AgentScope分布式解析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

参考

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小蓝xlanll/article/detail/256955
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号