当前位置:   article > 正文

简单几分钟将GPT部署到移动磁盘,从此不需要网络带着跑_在本地跑gpt

在本地跑gpt

Chat GPT 发布已经一年多,目前也有很多平替产品出现,为什么我们还是需要一个本地可以跑在电脑上的 GPT 模型呢?

隐私:使用某个公司提供的服务,避免不了你的个人数据安全无法得到保障,特别如果你要咨询关于自己隐私的问题就要考虑安全问题。
离线访问:这一点也只有 GPT 本地化才能实现,Chat GPT 没有办法在断网的情况下使用。
自动化:可以通过编程,使用 GPT 做自动化任务。目前各个公司提供 API 来实现都在收费。
今天分享一个 GPT 本地化方案 – GPT4All。它有两种方式使用:(1) 客户端软件;(2) Python 调用。另外令人激动的是,GPT4All 可以不用 GPU,有个8/ 16G 内存的笔记本就可以跑。

通过客户端使用
第一步,下载安装包。GPT4All 支持 Windows,MacOS 和 Linux 。下载地址:https://gpt4all.io/index.html
在这里插入图片描述
点击下载客户端,将目录选择你的移动磁盘,最好单独放一个文件夹。安装好,打开客户端,界面如下图所示。
在这里插入图片描述
接下来开始下载模型。种类比较多,对CPU性能的要求也不一样,可按自己的需求进行选择。这边建议使用谷歌浏览器下载速度会快一点,其他的浏览器可能会下载失败。
在这里插入图片描述
选择所下载的模型地址,客户端会自动识别到你的模型
在这里插入图片描述
在上方选择所识别到的模型,即可开始离线对话,不过仅支持英文。
在这里插入图片描述
牛皮plus,点个赞吧,点个关注吧!!!

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/羊村懒王/article/detail/587963
推荐阅读
相关标签
  

闽ICP备14008679号