你好赵伟

这个屌丝很懒，什么也没留下！

热门标签

基于llama模型进行增量预训练

作者：你好赵伟 | 2024-05-16 05:34:42

踩

增量预训练

1、llama模型转换(pytorch格式转换为HuggingFace格式)

1.1、拉取Chinese-LLaMA-Alpaca项目

2.1、下载Chinese-LLaMA-Plus-7B模型

2.2、下载chinese_alpaca_plus_lora_7b模型

5.2、Web图形界面方式推理合并后的模型

大家知道AI模型是怎么训练出来的吗？

AI模型的训练训练过程分为如下三个阶段

第一个阶段叫做无监督学习（PreTraining），就是输入大量的文本语料让GPT自己寻找语言的规律，这样一个巨大的词向量空间就形成了，但是话说的漂亮并不一定正确。

第二个阶段叫做监督学习(Supervised Fine-Tuning,也叫微调)，就是人工标注一些语料，教会GPT什么该说，什么不该说。（训练数据集）

第三个阶段叫做强化学习（RM，也叫奖励模型训练），就是给GPT的回答进行打分，告诉他在他的一众回答中，哪些回答更好。（验证数据集）

第一个阶段（无监督学习），又分为了底座模型预训练，及增量预训练，它们都属于无监督学习，基座模型预训练可以查看上篇文章：使用数据预训练一个AI语言模型

本文主要来聊聊有了一个底座模型之后，如何继续使用大量文本进行增量预训练。

1、llama模型转换(pytorch格式转换为HuggingFace格式)

由于使用的底座模型是llama，官方公布的是PyTorch版本，为了方便后续使用，需转换为HuggingFace格式

1.1、拉取Chinese-LLaMA-Alpaca项目


 # 我的文件路径为如下
 cd /root/autodl-fs
 git clone https://github.com/ymcui/Chinese-LLaMA-Alpaca.git

1.2、准备文件夹

以下命令依次执行！


 cd Chinese-LLaMA-Alpaca
 mkdir model
 cd model
 mkdir llama
 mkdir output
 mkdir llama/7B

1.3、下载llama官方原始模型


 wget https://agi.gpt4.org/llama/LLaMA/tokenizer.model -O ./tokenizer.model
 wget https://agi.gpt4.org/llama/LLaMA/tokenizer_checklist.chk -O ./tokenizer_checklist.chk
 wget https://agi.gpt4.org/llama/LLaMA/7B/consolidated.00.pth -O ./7B/consolidated.00.pth
 wget https://agi.gpt4.org/llama/LLaMA/7B/params.json -O ./7B/params.json

1.4、移动文件到指定位置


 mv tokenizer.model llama
 mv tokenizer_checklist.chk consolidated.00.pth params.json llama/7B

1.5、拉取transformers项目并安装依赖


 cd /root/autodl-fs
 git clone https://github.com/huggingface/transformers.git
 pip install torch==1.13.1 -i https://pypi.mirrors.ustc.edu.cn/simple/
 pip install sentencepiece==0.1.97 -i https://pypi.mirrors.ustc.edu.cn/simple/
 pip install peft==0.3.0 -i https://pypi.mirrors.ustc.edu.cn/simple/
 pip uninstall tokenizers
 pip install tokenizers==0.13.3 -i https://pypi.mirrors.ustc.edu.cn/simple/
 pip install transformers==4.28.1 -i https://pypi.mirrors.ustc.edu.cn/simple/

1.5、执行转换脚本


 cd /root/autodl-fs/transformers
 
 python src/transformers/models/llama/convert_llama_weights_to_hf.py \
 --input_dir /root/autodl-fs/Chinese-LLaMA-Alpaca/model/llama/ \
 --model_size 7B \
 --output_dir /root/autodl-fs/Chinese-LLaMA-Alpaca/model/output

参数说明：

--input_dir：tokenizer.model存放路径
--model_size：其余llama文件存放路径
--output_dir：存放转换好的HF版权重路径

2、合并模型

由于原始llama模型对中文的支持不是很优秀，所以需合并一个Chinese-LLaMA-Plus-7B模型和chinese_llama_plus_lora_7b模型

2.1、下载Chinese-LLaMA-Plus-7B模型

链接：百度网盘请输入提取码提取码：082w

上传到/root/autodl-fs/llama_7b目录下并解压缩


 cd /root/autodl-fs/llama_7b
 mkdir chinese_llama_plus_lora_7b
 unzip chinese_llama_plus_lora_7b.zip chinese_llama_plus_lora_7b

2.2、下载chinese_alpaca_plus_lora_7b模型

链接：百度网盘请输入提取码提取码：yr3q

上传到/root/autodl-fs/llama_7b目录下并解压缩


 cd /root/autodl-fs/llama_7b
 mkdir chinese_alpaca_plus_lora_7b
 unzip chinese_alpaca_plus_lora_7b.zip chinese_alpaca_plus_lora_7b

2.3、执行合并脚本


 cd /root/autodl-fs/Chinese-LLaMA-Alpaca/
 # 合并后的模型存放位置
 mkdir model/firstmergemodel
 
 python scripts/merge_llama_with_chinese_lora.py \
 --base_model /root/autodl-fs/Chinese-LLaMA-Alpaca/model/output \
 --lora_model /root/autodl-fs/llama_7b/chinese_llama_plus_lora_7b,/root/autodl-fs/llama_7b/chinese_alpaca_plus_lora_7b \
 --output_type huggingface \
 --output_dir /root/autodl-fs/Chinese-LLaMA-Alpaca/model/firstmergemodels

参数说明：

--base_model：存放HF格式的LLaMA模型权重和配置文件的目录
--lora_model：中文LLaMA/Alpaca LoRA解压后文件所在目录，也可使用https://www.wpsshop.cn/w/你好赵伟/article/detail/577168