书生·浦语大模型实战营之微调 Llama 3 实践与教程（XTuner 版）_llama3微调 python版本

作者：小小林熬夜学编程 | 2024-05-17 03:52:31

踩

llama3微调 python版本

书生·浦语大模型实战营之微调 Llama 3 实践与教程（XTuner 版）

Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，XTuner 团队对 Llama 3 微调进行了光速支持！！！开源同时社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。
XTuner：http://github.com/InternLM/XTuner
在这里插入图片描述

Llama3-XTuner-CN： https://github.com/SmartFlowAI/Llama3-XTuner-CN/
在这里插入图片描述

Llama 3 概览

首先我们来回顾一下 Llama 3 亮点概览～

首次出现 8B 模型，且 8B 模型与 70B模型全系列使用 GQA (Group Query Attention)。
最大模型达到 400B 规模大小，未来几个月内发布！
分词器由 SentencePiece 换为了 Tiktoken，与 GPT4 保持一致。
相比于 Llama2 的 32000 词表大小，L

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/581822

书生·浦语大模型实战营之微调 Llama 3 实践与教程 （XTuner 版）_llama3微调 python版本

Llama 3 概览

书生·浦语大模型实战营之微调 Llama 3 实践与教程（XTuner 版）_llama3微调 python版本