当前位置:   article > 正文

公司内部部署本地共享版ChatGPT,一次搭建,多人免费使用_如何将chatgpt部署到内网本地上

如何将chatgpt部署到内网本地上

很多小伙伴来问怎么实现在公司内部部署一个本地版的ChatGPT,在公司内网部署和搭建,给全公司来使用。

一、问题的提出

要想能在公司(或内部)搭建一个本地版的ChatGPT,并让多人同时使用ChatGPT,主要有两个问题要解决:

  • 一是前端的访问界面。这是终端用户直接的触点,能够让用户拥有类似ChatGPT的访问体验的。
  • 二是通往ChatGPT的通道。这需要 xx上网的问题,同时还要能解决ChatGPT账号的并发问题。

问题一的解决,有这么一些考虑点:

  • 因为并不对外提供服务,其实没必要部署在公网
  • 而且在公网部署其实有风险的,首先ChatGPT因为大家都知道的原因,在国内是访问不了的。所以一切网站,一切在线的方式理论上都不稳定,容易莫名就访问不了了。而公司内部稳定的访问很重要。所以最好是部署在公司内网,仅提供给内部使用。

所以问题一可能通过这样来解决:使用Github开源的web项目。直接部署在内网,全员通过url来访问。当然如果是土豪,有实力的公司,也可以从前端界面+后端接口全部自己研发。

接下来是问题二的解决:ChatGPT通道的问题。这个可以自己搭建代理,当然也可以使用比较现成的方式,比如下面提到的智增增API的方式。最终直接在上面部署的chatgpt-web中配置key和url,即可实现公司内部所有人无缝同时访问chatgpt。

下面分别再详细讲一下这两个问题都怎么来解决。

首先是问题一,可以使用开源的web项目chatgpt-web。

一、chatgpt-web是什么?

chatgpt-web这是一个Github上的高Star项目,截止本文时收获:29.1K star。

Github地址:https://github.com/Chanzhaoyu/chatgpt-web

简介:

用 Express 和 Vue3 搭建的 ChatGPT 演示网页

完全开放源代码,并有怎么部署和使用的全流程。完全可以自己想怎么改都行。

截图

部署使用

完全开放源代码,并有怎么部署和使用的全流程。完全可以自己想怎么改都行。

部署方式在Github上有详细流程,就不详细描述了。

根据官方介绍,还实现了这些功能:

[✓] 双模型

[✓] 多会话储存和上下文逻辑

[✓] 对代码等消息类型的格式化美化处理

[✓] 访问权限控制

[✓] 数据导入、导出

[✓] 保存消息到本地图片

[✓] 界面多语言

[✓] 界面主题

到这里,问题一,就算是解决了。

接下来是问题二,ChatGPT通道的问题。使用智增增API的方式。最终直接在上面部署的chatgpt-web中配置key和url,即可实现公司内部所有人无缝同时访问chatgpt。

二、智增增Api是什么?

智增增API是智增增官方推出的大模型的API接口,

  • 优质稳定的各类大模型的API接口
  • 支持百度文心一言、阿里、讯飞星火、清华ChatGLM、ChatGPT等
  • 强大的接口能力,支持openai所有接口和模型:支持assistant,gpt-4-1106,gpt-4-vision,GPT-3.5,GPT-4,Embedding,Whisper,TTS, Fine-tuning,DALL-E-3, Image等

Github地址:https://github.com/xing61/xiaoyi-robot

智增增API登录地址:http://gpt.zhizengzeng.com/

那么怎么来结合使用呢?(这里有更详细的步骤:https://zhizengzeng.com/1422.html

  • 第2步:部署chatgpt-web,需要在环境变量中设置,将上一步复制的key和url填入,即可正常使用。注意配置的主机地址是:https://flag.smarttrot.com

示意图,打开设置页面:然后设置成智增增的base_url和key即可:

  • 第3步,启动服务就可以访问了!

安装 node、pnpm 等略过。
安装依赖:
后端,进入文件夹 /service 运行以下命令:pnpm install
前端,根目录下运行以下命令:pnpm bootstrap
上述处理完后,基本可以运行了:
后端服务,进入文件夹 /service 运行以下命令:pnpm start
前端网页,根目录下运行以下命令:pnpm dev
按照这个照做,运行在那,然后访问:http://ip:1002,就可以了,内网 IP 也是 OK 的,只要能访问。
至此算是完成了,把 http://ip:1002 分享给同学们,就可以 high 起来了。
大功告成!

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/凡人多烦事01/article/detail/200513
推荐阅读
相关标签
  

闽ICP备14008679号