当前位置:   article > 正文

【langchain】实战笔记-Langchain-Chatchat win10本地部署FAQ(持续更新)_langchaindeprecationwarning: importing llms from l

langchaindeprecationwarning: importing llms from langchain is deprecated. im

      在发布了《 Langchain-Chatchat-win10本地安装部署成功笔记(CPU)》后,有不少同学给我私信,说根据我的文档安装成功,也有不少人在安装过程报错了,我的文章是基于V0.2.6版本写的,大部分都是因为升级版本引起的。当前最新版本是V0.2.10,经过验证V0.2.9按照原来的文章或官网的安装部署文档说明进行私有化安装部署都会出现一些问题,建议用V0.2.10版本。

本文专注记录安装部署新版本出现的问题和解决方法。

版本更新记录

V0.2.10

重要提示

Langchain-Chatchat v0.2.10 版本中修改了configs配置项,建议所有用户按照 Wiki 的开发部署中的相关描述重新完成项目中的配置文件生成。开发部署过程遇到问题请先到 Github Wiki / issues 中搜索。

本次更新中依赖 Python 包与其版本发生了大量更新,请使用pip install -r requirements.txt进行更新。

此版本为 v0.2.x系列最后一个版本,具备全新 Agent 功能的 v0.3.0即将上线,敬请期待。

新增功能

问题修复

V0.2.9

重要提示

Langchain-Chatchat v0.2.9 版本中修改了configs中配置项,建议所有用户按照 Wiki 的开发部署中的相关描述重新完成项目中的配置文件生成。开发部署过程遇到问题请先到 Github Wiki / issues 中搜索。

此外,v0.2.9 版本中知识库相关信息的数据库表发生了变化,如果继续使用之前版本的配置,可使用  python init_database.py --create-tables 仅更新数据库表,不重建知识库。

本次更新中依赖 Python 包与其版本发生了大量更新,请使用pip install -r requirements.txt进行更新。

新增功能

  • 文件对话和知识库对话 API 接口实现全异步操作,防止阻塞 by @liunux4odoo in #2256
  • 更新默认模型下载链接 by @YQisme in #2259
  • OCR 支持 GPU 加速(需要手动安装 rapidocr_paddle[gpu]);知识库支持 MHTML 和 Evernote 文件。 by @liunux4odoo in #2265
  • 使用Reranker模型对召回语句进行重排 by @hzg0601 in #2435
  • 知识库管理界面支持查看、编辑、删除向量库文档 by @liunux4odoo in #2471

问题修复

V0.2.8

重要提示

Langchain-Chatchat v0.2.8 版本中修改了configs中配置项,建议所有用户按照 Wiki 的开发部署中的相关描述重新完成项目中的配置文件生成。开发部署过程遇到问题请先到 Github Wiki / issues 中搜索。

此外,v0.2.8 版本中知识库相关信息的数据库表发生了变化,且默认 embedding 模型修改为bge-large-zh,如保持默认设置,请按需重建知识库。如果继续使用之前版本的配置,可使用  python init_database.py --create-tables 仅更新数据库表,不重建知识库。

本次更新中依赖 Python 包与其版本发生了大量更新,请使用pip install -r requirements.txt进行更新。

新增功能

问题修复

模型文件共享

可能有些同学没有对应的模型文件,共享一下我用到的几个模型,可持续更新,要是访问不了,可私信。

  1. 链接:https://pan.baidu.com/s/1phG6lDVoOzhyuROqyZInBA?pwd=dyqv
  2. 提取码:dyqv

快速安装命令

假设已安装torch,以下命令是基于V0.2.10版本进行安装部署的。

  1. #1、拉取代码
  2. git clone https://github.com/chatchat-space/Langchain-Chatchat.git
  3. #2、到langchain源码根目录
  4. cd Langchain-Chatchat
  5. #3、安装依赖
  6. pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/
  7. #4、自动生产配置文件,configs目录下,复制所有example配置文件,去掉example
  8. python copy_config_example.py
  9. #5、修改model_config.py文件
  10. # 选用的 Embedding 名称,内置模型
  11. #EMBEDDING_MODEL = "bge-large-zh-v1.5"
  12. EMBEDDING_MODEL = "bge-large-zh"
  13. # Embedding 模型运行设备。设为 "auto" 会自动检测(会有警告),也可手动设定为 "cuda","mps","cpu","xpu" 其中之一。
  14. EMBEDDING_DEVICE = "cpu"
  15. #内置模型地址
  16. #"bge-large-zh": "BAAI/bge-large-zh",
  17. "bge-large-zh": "E:\\llm_models\\bge-large-zh",
  18. #LLM_MODELS = ["chatglm3-6b", "zhipu-api", "openai-api"]
  19. #默认启动模型,根据实际情况修改
  20. LLM_MODELS = ["chatglm2-6b-int4", "openai-api"]
  21. LLM_DEVICE = "cpu"
  22. "openai-api": {
  23. "model_name": "gpt-4",
  24. "api_base_url": "https://api.openai.com/v1",
  25. #修改open -api key,如果不启动open api就不用修改添加api_key
  26. "api_key": "sk-xxxxxxxxxx",
  27. "openai_proxy": "",
  28. },
  29. "llm_model": {
  30. "chatglm2-6b": "THUDM/chatglm2-6b",
  31. "chatglm2-6b-32k": "THUDM/chatglm2-6b-32k",
  32. "chatglm3-6b": "THUDM/chatglm3-6b",
  33. "chatglm3-6b-32k": "THUDM/chatglm3-6b-32k",
  34. #添加一条chatglm2-6b-int4,如果用其他版本的,对应修改
  35. "chatglm2-6b-int4": "E:\\llm_models\\chatglm2-6b-int4",
  36. #6、重新初始化数据库
  37. python init_database.py --recreate-vs
  38. #注意,不要用python3 init_database.py --recreate-vs
  39. #7、启动
  40. python startup.py -a

FAQ集:

问题1: No moule named 'langchain'

  1. \L029\Langchain-Chatchat>python startup.py -a
  2. Traceback (most recent call last):
  3. File "D:\opt\L029\Langchain-Chatchat\startup.py", line 21, in <module>
  4. from configs import (
  5. File "D:\opt\L029\Langchain-Chatchat\configs\__init__.py", line 1, in <module>
  6. from .basic_config import *
  7. File "D:\opt\L029\Langchain-Chatchat\configs\basic_config.py", line 3, in <module>
  8. import langchain
  9. ModuleNotFoundError: No module named 'langchain'

A1:

pip3 install langchain

问题2: No module named 'fastapi'/ 'fastapi'/'httpx'等

  1. >python startup.py -a
  2. C:\Users\xxxxx\.conda\envs\l3\lib\site-packages\langchain\chat_models\__init__.py:31: LangChainDeprecationWarning: Importing chat models from langchain is deprecated. Importing from langchain will no longer be supported as of langchain==0.2.0. Please import from langchain-community instead:
  3. `from langchain_community.chat_models import ChatOpenAI`.
  4. To install langchain-community run `pip install -U langchain-community`.
  5. warnings.warn(
  6. C:\Users\xxxxx\.conda\envs\l3\lib\site-packages\langchain\llms\__init__.py:548: LangChainDeprecationWarning: Importing LLMs from langchain is deprecated. Importing from langchain will no longer be supported as of langchain==0.2.0. Please import from langchain-community instead:
  7. `from langchain_community.llms import OpenAI`.
  8. To install langchain-community run `pip install -U langchain-community`.
  9. warnings.warn(
  10. C:\Users\xxxxx\.conda\envs\l3\lib\site-packages\langchain\llms\__init__.py:548: LangChainDeprecationWarning: Importing LLMs from langchain is deprecated. Importing from langchain will no longer be supported as of langchain==0.2.0. Please import from langchain-community instead:
  11. `from langchain_community.llms import AzureOpenAI`.
  12. To install langchain-community run `pip install -U langchain-community`.
  13. warnings.warn(
  14. C:\Users\xxxxx\.conda\envs\l3\lib\site-packages\langchain\llms\__init__.py:548: LangChainDeprecationWarning: Importing LLMs from langchain is deprecated. Importing from langchain will no longer be supported as of langchain==0.2.0. Please import from langchain-community instead:
  15. `from langchain_community.llms import Anthropic`.
  16. To install langchain-community run `pip install -U langchain-community`.
  17. warnings.warn(
  18. Traceback (most recent call last):
  19. File "D:\opt\L029\Langchain-Chatchat\startup.py", line 35, in <module>
  20. from server.utils import (fschat_controller_address, fschat_model_worker_address,
  21. File "D:\opt\L029\Langchain-Chatchat\server\utils.py", line 14, in <module>
  22. import httpx
  23. ModuleNotFoundError: No module named 'httpx'

A2:

这种情况下,很可能安装了其他东西,重装一下requirments.txt的依赖

我的环境问题主要是重新安装了一下torch的GPU版本,然后就启动不了了,重新安装依赖后就正常

pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/

问题3:ERROR: Could not build wheels for jq, which is required to install pyproject.toml-based projects

  1. Building wheels for collected packages: jq, pysrt, streamlit-modal, sgmllib3k
  2. Building wheel for jq (pyproject.toml) ... error
  3. error: subprocess-exited-with-error
  4. × Building wheel for jq (pyproject.toml) did not run successfully.
  5. exit code: 1
  6. ╰─> [5 lines of output]
  7. running bdist_wheel
  8. running build
  9. running build_ext
  10. Executing: ./configure CFLAGS=-fPIC --prefix=C:\Users\xxx\AppData\Local\Temp\pip-install-j7c7k4bx\jq_9d733042867f41deaf65d6ad1794be6c\_deps\build\onig-install-6.9.8
  11. error: [WinError 2] 系统找不到指定的文件。
  12. [end of output]
  13. note: This error originates from a subprocess, and is likely not a problem with pip.
  14. ERROR: Failed building wheel for jq
  15. Building wheel for pysrt (setup.py) ... done
  16. Created wheel for pysrt: filename=pysrt-1.1.2-py3-none-any.whl size=13464 sha256=fbff3ed0c568e650bfd383891cbf637cc8539440f77b7cae1dfc2d60213bdb72
  17. Stored in directory: c:\users\xxx\appdata\local\pip\cache\wheels\8c\b7\58\74aa4c25086b8543b17de4454dcac97a641f7750e8e654b2c9
  18. Building wheel for streamlit-modal (setup.py) ... done
  19. Created wheel for streamlit-modal: filename=streamlit_modal-0.1.0-py3-none-any.whl size=4220 sha256=21e9cf2461d531b5836abebd3de05a7794089b31631172c3df82b263c635a2e4
  20. Stored in directory: c:\users\xxx\appdata\local\pip\cache\wheels\2e\0c\e0\0654ef5121fbcf01422a557ef2ac4cd8aff9b94b24b93c4363
  21. Building wheel for sgmllib3k (setup.py) ... done
  22. Created wheel for sgmllib3k: filename=sgmllib3k-1.0.0-py3-none-any.whl size=6061 sha256=6d9c52f7965461b9271561e621e92e6154a0d617780a976b5f07bfc794085458
  23. Stored in directory: c:\users\xxx\appdata\local\pip\cache\wheels\50\20\4b\e95fc891917d652cb6ecbfea035cf3ce640259cf857aaa21a7
  24. Successfully built pysrt streamlit-modal sgmllib3k
  25. Failed to build jq
  26. ERROR: Could not build wheels for jq, which is required to install pyproject.toml-based projects

A3

conda install jq

需要修改处理json的代码

待解决问题

待解决问题1:

  1. 2024-01-26 14:14:43,285 - utils.py[line:295] - INFO: RapidOCRLoader used for D:\opt\L029\Langchain-Chatchat\knowledge_base\samples\content\llm/img/大模型应用技术原理-幕布图片-580318-260070.jpg
  2. None is not a local folder and is not a valid model identifier listed on 'https://huggingface.co/models'
  3. If this is a private repository, make sure to pass a token having permission to this repo either by logging in with `huggingface-cli login` or by passing `token=<your_token>`None is not a local folder and is not a valid model identifier listed on 'https://huggingface.co/models'
  4. If this is a private repository, make sure to pass a token having permission to this repo either by logging in with `huggingface-cli login` or by passing `token=<your_token>`None is not a local folder and is not a valid model identifier listed on 'https://huggingface.co/models'
  5. If this is a private repository, make sure to pass a token having permission to this repo either by logging in with `huggingface-cli login` or by passing `token=<your_token>`

这个问题在初始化数据库发生的,待研究。

待解决问题2:

  1. Batches: 100%|████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:34<00:00, 34.01s/it]
  2. ('samples', 'test_files/langchain-ChatGLM_closed.jsonl', '从文件 samples/test_files/langchain-ChatGLM_closed.jsonl 加载文档时出错:jq package not found, please install it with `pip install jq`')

虽然有方案说用conda install jq,事实上没有作用,从issue里看,需要修改源码。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/知新_RL/article/detail/821626
推荐阅读
相关标签
  

闽ICP备14008679号