ChatGPT 已经成为过去,在您的笔记本电脑中免费运行 Llama 2(源码含模型)

指示：

现在您可以在计算机本地运行 ChatGPT 和 LLaMA-2。Meta刚刚发布了这个拥有700亿参数的模型，比任何其他Open模型都要好，甚至击败了Falcon 40B！

为此，您需要打开终端，转到项目文件夹，然后 git clone llama.cpp 项目

$ git clone https://github.com/ggerganov/llama.cpp
1

现在进入该文件夹并使用 make 构建项目：

$ cd llama.cpp
1

$ make
1

然后您需要从 Meta 网站请求访问该模型，并接受使用它的条款和条件，速度非常快

收到接受电子邮件后，安装 git-lfs 并将 llama-2–13b-chat 模型从 Hugging Face 下载到本地 llama.cpp/models 文件夹

$ brew install git-lfs

$ git-lfs install

$ cd ./models

$ git clone https://huggingface.co/meta-llama/Llama-2-13b-chat
1
2
3
4
5
6
7

现在确保您已经安装了 3.10 版本的 python，然后创建一个虚拟环境，激活它并使用 pip 安装所需的 python 库

$ cd ..

$ python3 — version

$ python3 -m venv venv

$ source venv/bin/activate

$ pip3 install -r requirements.txt
1
2
3
4
5
6
7
8
9

为了在我们的小型笔记本电脑上运行这个巨大的 LLM，我们需要使用以下命令