AI智能体开发平台Dify一键部署

作者：盐析白兔 | 2024-07-19 10:39:50

踩

开源ai平台部署

向AI转型的程序员都关注公众号机器学习AI算法工程

1.引言

先分享dify项目的github：https://github.com/langgenius/dify

“项目由前腾讯云DevOps团队成员创建。我们发现基于OpenAI的API开发GPT应用程序有些麻烦。凭借我们多年在开发者效率工具方面的研发经验，我们希望能够让更多的人使用自然语言开发有趣的应用程序。”

dify由10+全职团队和100+社区贡献者共同维护，迭代非常快，我下载的时候还是0.6.3，现在已经升级为0.6.6，基本上每周都会升级一个版本。

我认为，了解Dify以及其中依赖的上下游技术、架构，利用Dify快速建立AI智能体demo原型，其实对推进AI智能体开发是有意义的。今天我先简要介绍一下Dify的部署过程，后面的篇幅会具体分享基于Dify的AI智能体开发经验，以及AI智能体开发所依赖的底层技术。

2.docker compose一行命令部署Dify

首先将dify项目下载至服务器上，

git clone https://github.com/langgenius/dify.git

项目主要分为api（后端）和web（前端）两大部分，具体代码后面再分析，进入docker目录

cd docker

目录中包含几个文件，docker-compose.yaml可以通过docker compose直接启动所有服务和依赖，docker-compose.middleware.yaml可以先启动依赖的关系数据库、向量数据库等组件，再单独启动api和web端，隔离做得可以说太棒了。

先看一下docker-compose.yaml的源码

主要包含如下几个模块及docker镜像

api：langgenius/dify-api:0.6.6

worker：langgenius/dify-api:0.6.6

web：langgenius/dify-web:0.6.6

db：postgres:15-alpine

redis：redis:6-alpine

weaviate：semitechnologies/weaviate:1.19.0

sandbox：langgenius/dify-sandbox:0.1.0

nginx：nginx:latest

docker compose一键部署安装

docker compose up -d

从dockerhub逐个pulling依赖镜像，感觉还挺爽的

等待镜像下载部署完成后，打开webui：123.123.123.123:80，默认占用80端口，可以在docker compose配置文件中更改nignx端口。

经过账号初始化等工作后，欢迎来到Dify工作界面，就是这么丝滑

3.Dify主要特色

3.1多种大语言模型集成

相较于fastGPT+oneApi的方案，集成度更高：

大模型厂商模型：仅需到大模型厂商注册账号，申请鉴权apikey，即可快速体验比较每个大模型厂商的优劣，项目还贴心的附带了每个厂商的注册跳转链接，每个厂商基本都会给几百万的token用于测试。

本地部署模型：支持Xinference，Ollama，OpenLLM，LocalAI等推理框架部署的模型一键接入

HuggingFace开源模型：只需配置APIKEY和模型名字即可接入，不过要求服务器能翻墙噢

OpenAI-API-compatible：接入兼容OpenAI规范的API，目前Xinference，OpenLLM等很多推理框架，都是直接支持OpenAI API接口规范的，但对于每家大模型厂商，一般都要设计自己的规范，可能是想构建生态，或者是与众不同？这里多说一下：对于国内互联网中小厂，如果不自建大模型，可能要试用或买入多加公司的大模型，多加大模型给多个业务部门使用，就要有一个代理平台专门计算成本，这个平台最好对业务暴露的是兼容OpenAI的API接口，如果不是的话，当接入Dify平台时，就需要包一层与OpenAI兼容的API接口。