第一节课笔记——书生·浦语大模型实战营

作者：我家自动化 | 2024-02-18 06:00:51

踩

第一节课笔记——书生·浦语大模型实战营

书生·浦语大模型全链路开源体系

最近报名了书生·浦语大模型实战营，第一节课大致介绍了书生·浦语大模型全链路开源体系，做个笔记，也算给训练营打个广告，毕竟让本菜鸡免费学习~~

在这里插入图片描述

在这里插入图片描述

这里部署和评测的位置应该换一换~

在这里插入图片描述

重点关注预训练和微调的区别

在这里插入图片描述

增量续训基本与预训练一致，有监督微调参照lora大模型微调方式。
在这里插入图片描述

8G显存，2080Ti就能微调大模型，还是挺香的~~

在这里插入图片描述

在这里插入图片描述

大语言模型结构相对于计算机视觉模型结构简单，算子种类少，相对容易部署

在这里插入图片描述

部署用pytorch做推理引擎吗？估计没啥加速效果，另一个turbomind不是很了解。
在这里插入图片描述

用LLM做工具调用接口。

在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家自动化/article/detail/105447?site