当前位置:   article > 正文

大语言模型调用平台闻达懒人包安装部署教程_python闻达

python闻达

项目介绍

本项目设计目标为实现针对特定环境的高效内容生成,同时考虑个人和中小企业的计算资源局限性,以及知识安全和私密性问题。为达目标,平台化集成了以下能力:

  1. 知识库:支持对接本地离线向量库、本地搜索引擎、在线搜索引擎等。

  2. 多种大语言模型:目前支持离线部署模型有chatGLM-6B\chatGLM2-6B、chatRWKV、llama系列(不推荐中文用户)、moss(不推荐)、baichuan(需配合lora使用,否则效果差)、Aquila-7B、InternLM,在线API访问openai api和chatGLM-130b api。

  3. Auto脚本:通过开发插件形式的JavaScript脚本,为平台附件功能,实现包括但不限于自定义对话流程、访问外部API、在线切换LoRA模型。

  4. 其他实用化所需能力:对话历史管理、内网部署、多用户同时使用等。

安装部署

懒人包内容如下图所示,安装内部部署即可

下载地址: https://xueshu.fun/2784/

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/AllinToyou/article/detail/499699
推荐阅读
相关标签
  

闽ICP备14008679号