当前位置:   article > 正文

本地部署你的专属ChatGPT,不用想方设法翻墙了_本地部署chatgpt

本地部署chatgpt

        自ChatGPT问世以来,由于安全问题ChatGTP始终没有在国内提供服务,那访问ChatGTP有条件的就通过专线到国外进行访问,没条件的但喜欢折腾的可以通过各种野路子科学上网,没条件不喜欢折腾的听听就行。

        无意间在gitHub上发现了一个开源的项目,gpt4all,可以让使用者在本地部署一个ChatGPT,直接可以一键部署生成式的聊天工具。截止到本文已经达到33.8k的star了,关注度极高。

        先看看官方对此款产品的介绍:

                        Welcome to GPT4All Chat!

        GPT4All Chat is a locally-running AI chat application powered by the GPT4All-J Apache 2 Licensed chatbot. The model runs on your computers CPU, works without an internet connection and sends no chat data to external servers (unless you opt-in to have your chat data be used to improve future GPT4All models). It allows you to communicate with a large language model (LLM) to get helpful answers, insights, and suggestions. GPT4All Chat is available for Windows, Linux, and macOS. Running on your local computer, this model is not as powerful as those GPT models you can chat with over the internet by sending your data to large powerful servers and is not affiliated with them. NOTE: Windows and Linux require at least an AVX2 chipset. Both intel and arm macOS machines should work. A future update should allow non-AVX2 chipsets for older machines. Check back frequently and will announce here when it is ready.

        言简意赅就是该款产品是本地部署的,不需要网络就可以使用,也不会收集你的聊天信息发送到外边的服务器上(除非你允许你的聊天信息去提升未来GPT4all的模型) 。它允许您使用大型语言模型(LLM)进行交流,以获得有用的答案、见解和建议。该款产品可以在windows,linux和macos上部署。同时上面也提到了,本地部署的ChatGPT是不如通过网络接入的官方ChatGPT。后边就是你的电脑需要运行这款工具的配置了,一般新点的电脑都Ok。

        感兴趣的也可以去看看GPT4All发布的论文,里面详细的介绍了数据的收集和整理,以及模型的训练和用于训练的数据量。专业人士感兴趣可以看看

链接:https://static.nomic.ai/gpt4all/2023_GPT4All-J_Technical_Report_2.pdf

         下面直接进入正题

一:GPT4All安装

下载链接:GPT4All Chat

        

 上面提到GptAll可以在三个平台部署,我的是windows,就下载windows的安装包,为方便不能访问下载网页的同学,我已经将三个平台的安装包下载下来了,可以自取。链接:https://download.csdn.net/download/qq_27071221/87713268

进入安装界面

 有个设置按钮,好奇设计里面有啥,点进去看了看

 里面有个缓存的地方,默认放在C盘,由于我C盘空间紧张,我就改到了其他盘

然后一路点,就到了下面的安装界面了,这里就要死等了 ,没办法,要下载一个2.93GB的一个bin文件,应该就是训练好的模型包,此处我放那下载了一晚上。

 最后就是安装完成了

 二:GPT4All试用

 1,简单问侯语聊天,回答只能是英文

 2,尝试一下能不能写代码,第一次输入中文和英文发现不好使

 不死心又尝试了一遍,还真回答出来了,还用了好几种方法,由于篇幅就不贴出来了

 3,问一些敏感话题,回答很美国

 4,问一下历史知识,一本正经的胡说八道 

 三:总结

        以上就是GPT4All的安装和试用,安装最后要下载的文件比较大,另外速度也很慢,我放那下载了一晚上。试用的过程中,发现回答目前只支持英文,另外回答的质量也是不理想的。但是我们目前也不能要求太多,毕竟GPT4ALL训练的数据量和设备是不能和ChatGPT比较的,相信经过时间的积淀,会越来越好的,正如其名一样,gpt for all,让每个人都用得上AI。

        最后还是得提一下注意事项

注意事项

使用 GPT4All 时,请牢记作者的使用注意事项:

GPT4All 模型重量和数据仅用于研究目的并获得许可,禁止任何商业用途。GPT4All 基于 LLaMA,具有非商业许可。辅助数据是从 OpenAI 的 GPT-3.5-Turbo 收集的,其使用条款禁止开发与 OpenAI 进行商业竞争的模型。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/200515
推荐阅读
相关标签
  

闽ICP备14008679号