赞
踩
autogen studio是制作agent很不错的工具,它是以autogen制作成的网页版,其实是将autogen的模块定义用类已经写好,后期开发直接调用autogenstudio库的类就行,你可以先在网页版上将参数配置好,把workflows调式好后将配置参数下载后进行调库开发。
autogen对于API的调用都是openai接口框架,所以像国能许多大模型的接口无法使用,然而lang2openai这个项目就是将许多模型的API转换为openai的框架接口。
如讯飞星火API接口3.5,下载lang2aopenai
- # 下载安装git-fls https://github.com/git-lfs/git-lfs/releases
- git lfs install
-
- mkdir -p modal
- cd modal
-
- git clone https://www.modelscope.cn/quietnight/bge-reranker-large.git
- git clone https://www.modelscope.cn/AI-ModelScope/bge-large-zh-v1.5.git
windos 下载 GitHub - q2wxec/lang2openai: lang2openai
cp config-exp.ini config.ini
- # 复制本文件并命名 config.ini
-
- [llm]
-
-
- # https://console.xfyun.cn/services/cbm
- # 讯飞星火 app id
- xh_app_id =
- # 讯飞星火 api secret
- xh_api_secret =
- # 讯飞星火 api key
- xh_api_key =
-
-
-
- [embedding]
- bge_embedding_path =
-
- [rerank]
- bge_reranker_path =
这里注意配置文件里面把中文去掉,不然会报错。
- # 进入项目主目录
- cd lang2openai
- # 创建虚拟环境
- python -m venv venv
- # 激活虚拟环境win10
- venv\Scripts\activate
- # 激活虚拟环境linux
- source venv/bin/activate
- # 后端依赖安装
- pip install -r requirements.txt
- # python 3.10以上版本
- python main.py
部署完后需要改下几个地方的源码,因为没的3.5v接口的配置需要在源码里面添加,在aip/llm.py因为autogen的数据结构需要注释掉这个if语句
然后添加API的url和modal选项,需要添加llm/llm_loader.py文件
然后再启动python main.py,就可以用autogen接入了
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。