当前位置:   article > 正文

AI私有部署(保姆级教程)_私有ai部署

私有ai部署

目录

前言

材料准备

环境准备

安装git工具

 克隆gpt应用

准备部署环境

设置启动脚本,配置环境变量


前言

        时隔四个月我又来更新了,上一次的文章发布的较为随意,很多步骤都没有进行详细的描述。这次还是基于github开源的chatgpt第三方项目来部署我们私有化的chatgpt平台,步骤尽量写的详细一些。

材料准备

        服务器可以在公网服务器上面搭建,若是有内网服务器,也可以部署在内网中提供内网用户访问。

Linux系统配置明细
Centos72h4g
Chatgpt账户的apikeykey获取

chatgpt的每个账户有免费的5美元额度,如果是私人使用的话可以用几个月时间,若是plus也可以使用plus账户的key。


环境准备

安装git工具

[root@yyt ~]# yum install -y git

[root@yyt ~]# git version
git version 1.8.3.1

 克隆gpt应用

Chatgpt的目前在github或者gitee上面已经有很多了,我在这里采用的是ChatGPT-Next-Web,或者你可以自行上github寻找其他的gpt应用。

[root@yyt ~]# git clone https://github.com/Yidadaa/ChatGPT-Next-Web.git
Cloning into 'ChatGPT-Next-Web'...
remote: Enumerating objects: 7145, done.
remote: Counting objects: 100% (5/5), done.
remote: Compressing objects: 100% (5/5), done.
remote: Total 7145 (delta 0), reused 3 (delta 0), pack-reused 7140
Receiving objects: 100% (7145/7145), 7.25 MiB | 5.58 MiB/s, done.
Resolving deltas: 100% (4650/4650), done.

 如果遇到unable to access 'https://github.com/Yidadaa/ChatGPT-Next-Web.git/': Encountered end of file,则可以将包下载到自己的电脑中,再用lrzsz传输命令

准备部署环境

        这里我准备采用本地部署,添加yarn以及nodejs依赖来对应用进行部署,如果你只想单纯的将gpt部署出来,则可以采用docker部署,一键拉取镜像进行部署。docker部署 注: docker版本需大于20

        若你想进行二次开发,则可以将应用本地部署

安装nodejs,nodejs需要18以上,这里可以采用snap进行安装nodejs18

[root@yyt ~]# yum install snapd -y

[root@yyt ~]# systemctl enable --now snapd.socket  

[root@yyt ~]# ln -s /var/lib/snapd/snap /snap 

[root@yyt ~]# snap install node --classic --channel=18

#出现这个代表安装完成,重新连接终端输入node -v查看
node (18/stable) 18.17.1 from OpenJS Foundation (iojs✓) installed

[root@yyt ~]# npm -v
9.6.7

安装yarn

[root@yyt ~]# npm install yarn

added 1 package in 5s

[root@yyt ~]# yarn -v
1.22.19

 至此,运行环境准备完毕

设置启动脚本,配置环境变量

        项目中存在 .env.template 文件,里面可以对环境进行修改

[root@yyt ChatGPT-Next-Web]# cat  .env.template |grep -v "#"

OPENAI_API_KEY=sk-xxxx

CODE=your-password

PROXY_URL=http://localhost:7890

BASE_URL=api.openai-proxy.com

OPENAI_ORG_ID=

HIDE_USER_API_KEY=

DISABLE_GPT4=

HIDE_BALANCE_QUERY=

修改完毕后将文件名命名为.env.local

  1. OPENAI_API_KEY (必填项)
  2. OpanAI 密钥,你在 openai 账户页面申请的 api key。
  3. CODE (可选)
  4. 访问密码,可选,可以使用逗号隔开多个密码。
  5. 警告:如果不填写此项,则任何人都可以直接使用你部署后的网站,可能会导致你的 token 被急速消耗完毕,建议填写此选项。
  6. BASE_URL (可选)
  7. Default: https://api.openai.com
  8. Examples: http://your-openai-proxy.com
  9. OpenAI 接口代理 URL,如果你手动配置了 openai 接口代理,请填写此选项。
  10. 如果遇到 ssl 证书问题,请将 BASE_URL 的协议设置为 http。
  11. OPENAI_ORG_ID (可选)
  12. 指定 OpenAI 中的组织 ID。
  13. HIDE_USER_API_KEY (可选)
  14. 如果你不想让用户自行填入 API Key,将此环境变量设置为 1 即可。
  15. DISABLE_GPT4 (可选)
  16. 如果你不想让用户使用 GPT-4,将此环境变量设置为 1 即可。
  17. HIDE_BALANCE_QUERY (可选)
  18. 如果你不想让用户查询余额,将此环境变量设置为 1 即可。

启动对应端口后,如果是公有云服务器记得开放对应端口 

 运行服务

[root@yyt ChatGPT-Next-Web]# yarn install && yarn build 

[root@TttRark ChatGPT-Next-Web-main]# cat start.sh 
#!/bin/bash
PORT=输入要启动的端口
PORT=$PORT yarn start > /var/log/chatgpt.log 2>&1 & 

#运行日志可以查看/var/log/chatgpt.log

端口启动成功,进行页面访问测试 

 访问成功

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/羊村懒王/article/detail/693583
推荐阅读
相关标签
  

闽ICP备14008679号