XTuner 大模型低成本微调操作笔记_大模型微调常用命令

作者：你好赵伟 | 2024-05-16 05:14:12

踩

大模型微调常用命令

adapter_model.safetensors是转换后的LoRA模型
在这里插入图片描述
使用xtuner merge命令将转换后的LoRA模型与原模型整合到一块变成一个模型，第一个参数是底座模型路径，第二个参数是HuggingFace格式的LoRA模型路径，第三个参数是保存的目标模型路径，第四个是保存时分块保存大小，例如有个40GB的模型，保存时每块大小为2GB，方便传输和共享。
在这里插入图片描述
看到All done！即保存成功

基于哪个模型底座，就要使用对应的提示词模板也可以使用xtuner chat --help查看命令

加载其他模型可以替换掉此处的路径

在这里插入图片描述
加载完毕，可以进行对话

输入后敲两次回车才会把问题加载进去，敲一次回车被认为是换行，还能继续写问题

3.自定义微调

挑战在于使用自己的数据集

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/你好赵伟/article/detail/577081

XTuner 大模型低成本微调操作笔记_大模型微调 常用命令

3.自定义微调

XTuner 大模型低成本微调操作笔记_大模型微调常用命令