书生浦语大模型学习笔记二

课程地址：https://www.bilibili.com/video/BV1Ci4y1z72H/

课程目录

1.大模型及InternLM模型介绍

大模型概念：人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。
特点及应用：
1. 利用大量数据进行训练
2. 拥有数十亿甚至数千亿个参数
3. 模型在各种任务中展现出惊人的性能
InternLM 是一个开源的轻量级训练框架，旨在支持大模型训练而无需大量的依赖。基于InternLM训练框架，上海人工智能实验室已经发布了两个开源的预训练模型: InternLM-7B 和 InternLM-20B。
Lagent 是一个轻量级、开源的基于大语言模型的智能体 (agent) 框架，用户可以快速地将一个大语言模型转变为多种类型的智能体。通过 Lagent 架可以更好的发挥 InternLM 模型的全部性能。
浦语·灵笔是基于书生·浦语大语言模型研发的视觉·语言大模型，有着出色的图文理解和创作能力，使用浦语·灵笔大模型可以轻松的创作一篇图文推文。

2.InternLM-Chat-7B 智能对话 Demo

模型介绍

通过单一的代码库，InternLM 支持在拥有数干个 GPU 的大型集群上进行预训练，并在单个 GPU 上进行微调，同时实现了卓越的性能优化。在1024 个 GPU 上训练时，InternLM 可以实现近 90% 的加速效率。
InternLM-7B 包含了一个拥有 70 亿参数的基础模型和一个为实际场景量身定制的对话模型。该模型具有以下特点:

1. 利用数万亿的高质量 token 进行训练，建立了一个强大的知识库。
2. 支持 8k token的上下文窗口长度，使得输入序列更长并增强了推理能力

3.Lagent 智能体工具调用Demo

Lagent介绍

Lagent 是一个轻量级、开源的基于大语言模型的智能体 (agent)框架，用户可以快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能架构如图所示：

4. 浦语灵笔图文创作理解Demo

浦语·灵笔是基于书生·浦语大语言模型研发的视觉-语言大模型，提供出色的图文理解和创作能力具有多项优势:
1.为用户打造图文并貌的专属文章。
2. 设计了高效的训练策略，为模型注入海量的多模态概念和知识数据，赋予其强大的图文理解和对话能力。

5. 实践操作

具体操作看此文档比较详细，感觉没什么补充的：https://github.com/InternLM/tutorial/blob/main/helloworld/hello_world.md
在将SSH与本地映射时如果出现Bad owner or permissions on .ssh/config可以查看该文档：https://blog.csdn.net/wzk4869/article/details/126737567