书生·浦语大模型实战营第一课

主讲人：陈恺|上海人工智能实验室 青年科学家

回放：书生·浦语大模型全链路开源体系_哔哩哔哩_bilibili

主要介绍了书生·浦语大模型的全链路开源体系

1.总览

 

2.全链条开源开放体系 | 数据

名称：书生万卷

包含内容：文本数据、图像-文本数据集、视频数据集总数据量达到2TB

特点：多模态融合，精细化处理，价值观对齐

3.全链条开源开放体系 | 预训练

高可拓展：支持多卡训练加速效率达92%

极致性能优化：Hybrid Zero加速

兼容主流：无缝衔接Hugging Face等技术生态

开箱即用：支持多中规格的模型，简单修改配置即可训练

4.全链条开源开放体系 | 微调

XTuner微调框架：支持部分微调和全部微调以及多种微调算法，适配多种开源生态，支持自动加速优化，适配多种硬件（NVIDIA 20 系以上的显卡均有训练方案） 同时最低只需8GB现存即可微调7B模型

4.全链条开源开放体系 | 评测

从多个维度、多个细分领域评测，是一个十分全面的评测体系。包含多种评测方法，多种工具。

5.全链条开源开放体系 | 部署

针对大预言模型的特点，以及已知的一些挑战，做出的一些技术优化。

提供了大模型部署的全流程解决方案，包含模型轻量化、推理和服务。

5.全链条开源开放体系 | 智能体

简单易扩展的工具，支持丰富的工具