当前位置:   article > 正文

LLM应用开发平台Dify快速安装_dify 安装

dify 安装

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。即使你是非技术人员,也能参与到AI应用的定义和数据运营过程中。

前提:

准备1台Linux服务器,我这里是以CentOS 7.9举例。

快速启动

  • 登录Linux服务器,在合适的目录下执行git clone https://github.com/langgenius/dify.git将Dify源代码克隆到本地(本文是在/mnt目录,不再赘述)。
    在这里插入图片描述
  • 源码克隆完成后,进入dify目录,执行git checkout -b 0.6.3 0.6.3切换到最新的稳定版分支,本文写作时最新稳定版本为0.6.3。
    在这里插入图片描述
  • 进入/mnt/dify/docker目录,执行docker compose up -d即可启动Dify。需要说明的是,这样启动使用的全部是默认配置,不推荐。

自定义配置启动

修改默认docker-compose.yaml

  • 我们更推荐在自定义修改相关配置后启动,首先在dify/docker目录执行cp docker-compose.yaml docker-compose.yaml.bak备份docker-compose配置文件。
  • 在dify/docker目录执行vi docker-compose.yaml编辑默认配置,我本地因为已经单独安装Redis、PostgreSQL、Nginx等组件,所以将redis、db、nginx相关的配置删除或注释掉。记得depends_on也要删除。
  • 修改yaml文件中关于PostgreSQL和Redis配置,需要与本地数据库参数配置保持一致,示例如下:
DB_USERNAME: postgres
DB_PASSWORD: 123456
DB_HOST: 127.0.0.1
DB_PORT: 5432
DB_DATABASE: dify

REDIS_HOST: 127.0.0.1
REDIS_PORT: 6379
REDIS_USERNAME: ''
REDIS_PASSWORD: 123456
REDIS_USE_SSL: 'false'
REDIS_DB: 2
CELERY_BROKER_URL: redis://:123456@127.0.0.1:6379/2
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 修改yaml文件中邮件配置,方便发送邮件通知。我这里选择smtp类型(也可以使用resend类型),大家可以将自己的邮箱信息配置上去。
MAIL_TYPE: 'smtp'
MAIL_DEFAULT_SEND_FROM: '逆流的小鱼'
SMTP_SERVER: 'smtp.feishu.cn'
SMTP_PORT: 465
SMTP_USERNAME: 'dify@feishu.cn'
SMTP_PASSWORD: 'abc123'
SMTP_USE_TLS: 'true'
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 将api和web容器的运行端口映射到本机,后续在本地Nginx配置中需要使用。
services:
  api:
    ### 其它配置省略了###
    ports:
      - "5001:5001"
  web:
    ### 其它配置省略了###
    ports:
      - "3010:3000"
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 在任意目录执行openssl rand -base64 42即可生成一个强秘钥,以此修改默认的SECRET_KEY配置值。
    在这里插入图片描述
SECRET_KEY: sk-Szb3HzZ2EZ3AuUkBYyCQDBqJb6/SbFF4iIUgeedcQ4XN45c+ZfJ1PB92
  • 1

PostgreSQL安装uuid-ossp扩展

  • 执行yum -y install uuid-devel libuuid-devel安装uuid-ossp扩展依赖包,已安装请忽略。

  • 连接已有PostgreSQL,执行 select version();查看当前PostgreSQL的版本信息。
    在这里插入图片描述

  • 然后登录PostgreSQL官网下载对应版本的PostgreSQL数据库源码,然后上传到服务器;或者直接执行wget https://ftp.postgresql.org/pub/source/v15.6/postgresql-15.6.tar.gz下载。
    在这里插入图片描述

  • 执行tar -xzvf postgresql-15.6.tar.gz解压PostgreSQL源代码包。

  • 进入解压后的源代码根目录(本文以:/tmp/postgresql-15.6 举例),执行./configure --prefix=/usr/pgsql-15 --with-uuid=ossp。注意:prefix需要是现有PostgreSQL的安装目录。

  • 然后继续切换到/tmp/postgresql-15.6/contrib/uuid-ossp目录,执行make & make install

  • 连接本地PostgreSQL的dify数据库,然后执行SQL`CREATE EXTENSION IF NOT EXISTS “uuid-ossp”;'安装扩展。

Nginx配置

因为我们使用的本地Nginx,所以还需要对本地Nginx进行相关配置。这里我就不再啰嗦,直接给出一份完整的server示例:

    server {
        listen       18005;
        server_name  localhost;

        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        proxy_buffering off;
        proxy_read_timeout 3600s;
        proxy_send_timeout 3600s;

        # 请注意:下面的端口需要与容器docker-api-1和docker-web-1映射到本机的端口保持一致
        location /console/api {
            proxy_pass http://127.0.0.1:5001;
        }

        location /api {
            proxy_pass http://127.0.0.1:5001;
        }

        location /v1 {
            proxy_pass http://127.0.0.1:5001;
        }

        location /files {
            proxy_pass http://127.0.0.1:5001;
        }

        location / {
            proxy_pass http://127.0.0.1:3010;
        }
    }
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34

启动

  • 进入/mnt/dify/docker目录,执行docker compose up -d即可启动Dify。
    在这里插入图片描述
  • 访问Dify首页,配置管理员账号和密码。至此安装完成,后续就可以参照官方文档进行使用了。
    在这里插入图片描述
    在这里插入图片描述
    这里是小鱼的公众号,如果大家觉得本文对您的学习和工作有帮助,可以扫码关注下,后续我将带给大家更多关于大模型Agent应用相关的分享,感谢!
    在这里插入图片描述
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/繁依Fanyi0/article/detail/743404
推荐阅读
相关标签
  

闽ICP备14008679号