当前位置:   article > 正文

本地部署FastGPT知识库——创新实践

fastgpt

安装Docker

登录Docker官网,找到适合自己电脑版本的docker下载,一路next即可

安装完成后,可在cmd中检查是否安装成功,同时检查是否安装docker-compose

配置

创建一个文件夹fastgpt,在文件夹中创建两个文件,分别为config.json和docker-compose.yml

  1. # Config.json
  2. {
  3. "FeConfig": {
  4. "show_emptyChat": false,
  5. "show_contact": false,
  6. "show_git": false,
  7. "show_doc": true,
  8. "systemTitle": "个人知识库",
  9. "limit": {
  10. "exportLimitMinutes": 0
  11. },
  12. "scripts": []
  13. },
  14. "SystemParams": {
  15. "vectorMaxProcess": 15,
  16. "qaMaxProcess": 15,
  17. "pgIvfflatProbe": 20
  18. },
  19. "ChatModels": [
  20. {
  21. "model": "gpt-3.5-turbo",
  22. "name": "GPT35-4k",
  23. "contextMaxToken": 4000,
  24. "quoteMaxToken": 2000,
  25. "maxTemperature": 1.2,
  26. "price": 0,
  27. "defaultSystem": ""
  28. },
  29. {
  30. "model": "gpt-3.5-turbo-16k",
  31. "name": "GPT35-16k",
  32. "contextMaxToken": 16000,
  33. "quoteMaxToken": 8000,
  34. "maxTemperature": 1.2,
  35. "price": 0,
  36. "defaultSystem": ""
  37. },
  38. {
  39. "model": "gpt-4",
  40. "name": "GPT4-8k",
  41. "contextMaxToken": 8000,
  42. "quoteMaxToken": 4000,
  43. "maxTemperature": 1.2,
  44. "price": 0,
  45. "defaultSystem": ""
  46. }
  47. ],
  48. "VectorModels": [
  49. {
  50. "model": "text-embedding-ada-002",
  51. "name": "Embedding-2",
  52. "price": 0,
  53. "defaultToken": 500,
  54. "maxToken": 3000
  55. }
  56. ],
  57. "QAModel": {
  58. "model": "gpt-3.5-turbo-16k",
  59. "name": "GPT35-16k",
  60. "maxToken": 16000,
  61. "price": 0
  62. },
  63. "ExtractModel": {
  64. "model": "gpt-3.5-turbo-16k",
  65. "functionCall": true,
  66. "name": "GPT35-16k",
  67. "maxToken": 16000,
  68. "price": 0,
  69. "prompt": ""
  70. },
  71. "CQModel": {
  72. "model": "gpt-3.5-turbo-16k",
  73. "functionCall": true,
  74. "name": "GPT35-16k",
  75. "maxToken": 16000,
  76. "price": 0,
  77. "prompt": ""
  78. },
  79. "QGModel": {
  80. "model": "gpt-3.5-turbo",
  81. "name": "GPT35-4k",
  82. "maxToken": 4000,
  83. "price": 0,
  84. "prompt": "",
  85. "functionCall": false
  86. }
  87. }
  1. # Docker-compose.yml
  2. # 非 host 版本, 不使用本机代理
  3. version: '3.3'
  4. services:
  5. pg:
  6. # 使用阿里云的 pgvector 镜像
  7. image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2
  8. container_name: pg
  9. restart: always
  10. # 生产环境建议不要暴露端口
  11. ports:
  12. - "5432:5432"
  13. networks:
  14. - fastgpt
  15. # 环境变量配置,首次运行生效,修改后需删除持久化数据再重启
  16. environment:
  17. - POSTGRES_USER=username
  18. - POSTGRES_PASSWORD=password
  19. - POSTGRES_DB=fastgpt
  20. # 卷挂载,包括初始化脚本和数据持久化
  21. volumes:
  22. - ./pg/init.sql:/docker-entrypoint-initdb.d/init.sh
  23. - ./pg/data:/var/lib/postgresql/data
  24. mongo:
  25. # 使用阿里云的 mongo 镜像
  26. image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18
  27. container_name: mongo
  28. restart: always
  29. # 生产环境建议不要暴露端口
  30. ports:
  31. - "27017:27017"
  32. networks:
  33. - fastgpt
  34. # 环境变量配置,首次运行生效,修改后需删除持久化数据再重启
  35. environment:
  36. - MONGO_INITDB_ROOT_USERNAME=username
  37. - MONGO_INITDB_ROOT_PASSWORD=password
  38. # 卷挂载,包括数据和日志
  39. volumes:
  40. - ./mongo/data:/data/db
  41. - ./mongo/logs:/var/log/mongodb
  42. fastgpt:
  43. container_name: fastgpt
  44. # 使用阿里云的 fastgpt 镜像
  45. image: registry.cn-hangzhou.aliyuncs.com/david_wang/fastgpt:latest
  46. ports:
  47. - "3000:3000"
  48. networks:
  49. - fastgpt
  50. # 确保在 mongo 和 pg 服务启动后再启动 fastgpt
  51. depends_on:
  52. - mongo
  53. - pg
  54. restart: always
  55. # 可配置的环境变量
  56. environment:
  57. - DEFAULT_ROOT_PSW=123456
  58. - OPENAI_BASE_URL=https://api.openai.com/v1
  59. - CHAT_API_KEY=sk-*****
  60. - DB_MAX_LINK=5
  61. - TOKEN_KEY=wenwenai
  62. - ROOT_KEY=wenwenai
  63. - FILE_TOKEN_KEY=filetoken
  64. - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
  65. - PG_URL=postgresql://username:password@pg:5432/fastgpt
  66. # 配置文件的卷挂载
  67. volumes:
  68. - ./config.json:/app/data/config.json
  69. # 定义使用的网络
  70. networks:
  71. fastgpt:

启动容器

在所创建的文件夹中打开cmd,运行以下命令

# 在 docker-compose.yml 同级目录下执行

docker-compose pull

docker-compose up -d

执行完成后,访问浏览器 http://localhost:3000/

构建知识库

访问 http://localhost:3000/ 登录后到以下界面后进行登录,选择知识库后,点击新建->知识库

如下图即创建成功

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/木道寻08/article/detail/817714
推荐阅读
相关标签
  

闽ICP备14008679号