【你的第一个大模型微调，Qwen1_8B-Chat-Int8，8G显卡】_qwen win 微调

部署第一个小模型后进行finetuning微调。先学习一下调用API，再用web启动服务，最后微调训练完以后用web服务验证。

一、调用API

有openapi，还有dashscopeapi，都是类似的，学会一个就会另一个。主要试的第二个，链接如下。
使用环境变量保存，linux下用

export DASHSCOPE_API_KEY="YOUR_DASHSCOPE_API_KEY"
1

windows下可以

setx DASHSCOPE_API_KEY="YOUR_DASHSCOPE_API_KEY"
1

也可以直接设置环境变量。

按照实例调用就行，代码里面不用单独写api_key，程序会自动去环境变量里面找。
ps：设置完后要重启一下vscode，我说半天怎么不行呢，这家伙一直没重新读取环境变量。

二、启动web服务

1.下载Qwen官方代码

git clone https://hub.yzuu.cf/QwenLM/Qwen.git#github国内镜像网站，不用魔法
1

2.环境依赖及运行

cd Qwen
pip install -r requirements_web_demo.txt
1
2

命令行启动，或者程序运行都行

python web_demo.py#具体在Qwen文件夹里
1

然后就行了。

三、微调

1、windows下详看这篇文章（我有所改动），linux照github QWEN官方做。

python finetune.py --model_name_or_path C:/Users/A/.cache/modelscope/hub/qwen/Qwen-1_8B-Chat-Int8 --data_path C:/lkp/LLM/qwen1.8B/qwen_data_process/q_answer/chat.json --fp16 True --output_dir output_qwen --num_train_epochs 5