玩转 GPT4All

目录

什么是Chatgpt

什么是gpt4all

如何使用

第一步：下载LLM模型

第二步：下载代码

第三步：将模型替换到

第四步：执行启动命令

第五步：生成自己的客户端

第六步：启动

第七步：配置UI

---

什么是Chatgpt

        ChatGPT是一个由OpenAI开发的大型语言模型。其基于GPT-4架构（Generative Pretrained Transformer 4）进行训练，目的是理解和生成人类语言。它可以回答问题、撰写文章、翻译语言、编写代码等。

ChatGPT在训练过程中，学习了大量的文本数据，其中包括了书籍、网站和其他类型的文本。然而，它并没有直接访问互联网，因此不能获取实时信息，也不能存储与个人相关的任何信息。

什么是gpt4all

        GPT4All是Nomic AI公司开源的一个类似ChatGPT的模型，它是基于MetaAI开源的LLaMA微调得到的其最大的特点是开源，并且其4-bit量化版本可以在CPU上运行！gpt4all是在大量干净数据上训练的一个开源聊天机器人的生态系统。它不用科学上网！甚至可以不联网！本地就能用。接下来咱们就是实战一下如何体验gpt4all。支持的系统包括Mac/OSX、Windows、Ubuntu市面上常用的所有操作系统。

        GPT4All模型是一个3GB - 8GB的文件，您可以下载并插入GPT4All开源生态系统软件。特别强调是GPT4All是遵循非商业化协议，所以不能用于商业用途。

如何使用

第一步：下载LLM模型

        浏览器打开这个地址: https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin, 下载模型文件，文件大小是3.92GB。这个模型下载需要科学上网，我这边下载好了大语言模型，因为CSDN上直接粘贴网盘地址审核不通过，所以需要的同学可以私信或者留言我发你。

第二步：下载代码

第三步：将模型替换到

        将gpt4all-lora-quantized.bin放进gpt4all-main下的chat文件夹，注意项目路径为：“gpt/gpt4all-main/gpt4all-training/chat”。

第四步：执行启动命令

        在当前目录下执行启动命令，我的电脑是mac，Intel 我使用的最后一个命令。但是我的电脑操作系统版本太低，报错。如下图，要解决这个case有两种方式，一个是升级我电脑系统，需要升级到13版本。 一个是重新生成一个新的客户端。我采用的是后一种方式。

• M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
• Linux: cd chat;./gpt4all-lora-quantized-linux-x86W
• indows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe
• Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel

第五步：生成自己的客户端

        如果不想升级电脑的操作系统（也有可能是无奈之举电脑太旧不适合升级）就自定义客户端吧。采用如下命令就可以生成适合自己的客户端。

git clone https://github.com/zanussbaum/gpt4all.cpp
cd gpt4all.cpp
make chat
cp chat ../gpt4all/chat/gpt4all-lora-quantized-OSX-intel-old

第六步：启动

        采用如下命令就可以启动了“./gpt4all-lora-quantized-OSX-intel-old*”，奈何本人电脑确实配置太低，直接卡死。就不做演示截图了，感兴趣的同学可以自己尝试练习。

第七步：配置UI

        如果你觉得使用终端不舒服可以配合UI尝试。网页打开gpt4all点io 下载安装包。打开安装包点击这个”绿U盘“打开安装程序，选择安装路径安装。（”此组件大约占用您硬盘驱动器3.95GB的空间“）安装之后在你的安装路径下，有一个叫GPT4ALL的文件夹，在里面找到bin 文件夹，打开里面的chat.app,就能用UI交互啦！

https://github.com/nomic-ai/gpt4all 

https://github.com/nomic-ai/gpt4all/issues/70