LLMs之LLaMA-7B-QLoRA：基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、模型微调(QLoRA+_alpaca-lora-7b

作者：Li_阴宅 | 2024-08-04 05:43:27

踩

alpaca-lora-7b

LLMs之LLaMA-7B-QLoRA：基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、构造数据集(Alpaca利用ChatGPT生成52K指令数据集+多份json格式)、模型微调(微调7B-QLoRA=单卡/8卡【7B仅2H+各卡不到6G】—微调65B-QLoRA(单卡GPU微调=5个小时+仅48G，多卡微调【8张GPU】=每单卡仅10G))、模型推理(仅7G+对比终端命令/llama.cpp/Docker封装)图文教程之详细攻略

基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、模型微调(QLoRA+单卡/多卡)、模型推理(对比终端命令/llama.cpp/Docker封装)图文教程之详细攻略

1、模型运行的前置准备

1.1、环境配置：CentOS 7+CPUs【1TB+64个CPU+16核】+GPUs【8卡A800-80G】

1.2、创建并激活虚拟环境+安装依赖：qlora-venv-py310-cu117

Py之accelerate：accelerate的简介、安装、使用方法之详细攻略

1.3、模型文件格式转换(HF格式)

2、数据集

2.1、源自Alpaca利用ChatGPT生成52K指令数据集(多份json格式)

LLMs之Data：Self Instruction思想(一种生成指令数据集的方法论—主要用在指令微调阶段)的简介、Alpaca/BELLE应用、实战案例代码实现之详细攻略

3、模型微调：

3.1、命令微调：复现LLaMA_7B = 基于LLaMA_7b_HF模型+QLoRA微调+alpaca_data_cleaned.json数据集——不到2小时——获得llama-7b-qlora文件

PTMs：QLoRA技巧之源码解读(qlora.py文件)—解析命令与加载参数→数据预处理→模型训练+评估+推理