【实战教程】linux系统下载huggingface大模型教程_huggingface. llama3下载

准备工作

添加SSH Key

# 本地机器生成ssh key
# step1：安装git
brew install git 
# step2：验证git是否成功下载
git version
# git version 2.31.1
# step3：配置账号（如已经配置，直接跳到step5）
git config --global user.email "你的邮箱"
# 一路回车，就不需要每次记密码了
# step4：生成公共密钥
ssh-keygen -t rsa 
# step5：查看密钥
cat ~/.ssh/id_rsa.pub
1
2
3
4
5
6
7
8
9
10
11
12
13

复制上述生成的密钥在huggingface网站中配置，进入settings->SSH and GPG Keys->Add SSH Key，添加生成的密钥即可；查看ssh是否正常链接

ssh -T git@hf.co
# Hi XXX, welcome to Hugging Face.
1
2

然后安装LFS：

git lfs install
1

• 官方文档：添加SSH Key；

生成Access Token

进入settings->Access Tokens生成个人的Acces Token；

• 官方文档：Access Token；

模型下载

公开模型下载（bert-base-chinese为例）

以bert-base-chinese为例：

# 先下载基础文件，跳过大文件
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/google-bert/bert-base-chinese
# 然后逐个下载LFS大文件，记得把链接中的blob更改成resolve
sudo wget https://huggingface.co/bert-base-chinese/resolve/main/pytorch_model.bin  
1
2
3
4

非公开模型下载（Llama3为例）

权限申请

• 进入官网申请权限，审核通过后即可进行模型下载，会收到审核通知的邮件，以Meta Llama3为例；
  • 官网申请：进入官网Meta-Llama ，填写基本信息，没有国内的选项，填写其他国家和学校，就能够申请成功；
  • huggingface申请：Meta-Llama-3-8B，填写对应表单，会得到通知邮件；

官网预训练模型下载

#  * 下载Llama3仓库：https://github.com/meta-llama/llama3
git clone git@github.com:meta-llama/llama3.git
# 进入llama3
cd llama3
# 运行download脚本
bash download.sh
# 填写邮箱或官网提供的链接
# Enter the URL from email: 你的私密链接
# 填写要下载的模型链接
# Enter the list of models to download without spaces (8B,8B-instruct,70B,70B-instruct), or press Enter for all: 你要下载的预训练模型
1
2
3
4
5
6
7
8
9
10

huggingface仓库下载

• hugginface安全性升级后，下载必须通过Access Token进行认证

# 跳过大文件下载基础文件
GIT_LFS_SKIP_SMUDGE=1 git clone https://你的名字:你的accesstoken@huggingface.co/meta-llama/Meta-Llama-3-8B
# 逐个下载大文件
# 1. 账户密码的方式下载（已经不支持了）
# sudo wget https://你的名字:你的密码@huggingface.co/meta-llama/Meta-Llama-3-8B/resolve/main/model-00001-of-00004.safetensors
# 2. access token的方式，记得把blob改成resolve
wget --header="Authorization: Bearer 你的token" https://huggingface.co/meta-llama/Meta-Llama-3-8B/resolve/main/model-00001-of-00004.safetensors
1
2
3
4
5
6
7