当前位置:   article > 正文

[2024-06]-[大模型]-[Ollama]- unsloth大模型微调,并导入ollama_ollama 如何微调大模型

ollama 如何微调大模型

截止2024年6月,unsloth只能使用单个GPU进行微调,这个比较不方便。
强烈推荐使用其推荐的Google Colab进行微调,因为其中涉及比较麻烦网络原因,即使网络搞定了,还考虑网络连接质量,一样会失败。

使用项目:https://github.com/unslothai/unsloth

在这里插入图片描述
直接点击对应模型的的start for free。进入colab。

  1. 换你自己的数据:
    在这里插入图片描述
  2. 改成True,保存模型的GGUF
    在这里插入图片描述
  3. 保存到Google drive中,这样比较方便。

我改了之后的ipynb文件在:
https://github.com/JieChenSimon/LLMLearningCourse/blob/main/Simonchen_Llama_3_8b_Unsloth_2x_faster_finetuning.ipynb可以下载运行。欢迎s

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/木道寻08/article/detail/899362
推荐阅读
相关标签
  

闽ICP备14008679号