赞
踩
本项目设计目标为实现针对特定环境的高效内容生成,同时考虑个人和中小企业的计算资源局限性,以及知识安全和私密性问题。为达目标,平台化集成了以下能力:
知识库:支持对接本地离线向量库、本地搜索引擎、在线搜索引擎等。
多种大语言模型:目前支持离线部署模型有chatGLM-6B\chatGLM2-6B、chatRWKV、llama系列(不推荐中文用户)、moss(不推荐)、baichuan(需配合lora使用,否则效果差)、Aquila-7B、InternLM,在线API访问openai api和chatGLM-130b api。
Auto脚本:通过开发插件形式的JavaScript脚本,为平台附件功能,实现包括但不限于自定义对话流程、访问外部API、在线切换LoRA模型。
其他实用化所需能力:对话历史管理、内网部署、多用户同时使用等。
懒人包内容如下图所示,安装内部部署即可
下载地址: https://xueshu.fun/2784/
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。