【书生·浦语】大模型实战营——第二次课后作业

目录

基础作业：

使用 InternLM-Chat-7B 模型生成 300 字的小故事

使用 huggingface_hub python 包，下载 InternLM-20B 的 config.json 文件到本地

进阶作业

流程

浦语·灵笔的图文理解及创作部署

1. 创作图文并茂文章

2. 多模态对话

3. 需要注意的问题

Lagent 工具调用 Demo 创作部署

---

基础作业：

使用 InternLM-Chat-7B 模型生成 300 字的小故事

流程：

• 配置好虚拟环境；
• 下载模型并在相关代码中指定模型地址；
• 运行相关程序；

使用 huggingface_hub python 包，下载 InternLM-20B 的 config.json 文件到本地

from huggingface_hub import hf_hub_download 
hf_hub_download(repo_id="internlm/internlm-20b", filename="config.json")

下载过程：

config.json:

进阶作业

流程

1. 配置环境（虚拟环境、配置本地端口）
2. 下载模型文件（Modelscope、huggingface）
3. 运行代码，注意gpu数量设置

浦语·灵笔的图文理解及创作部署

1. 创作图文并茂文章

2. 多模态对话

3. 需要注意的问题

1. 单卡A100 内存不能支持创作图文并茂文章， 内存会爆；
2. streamlit 显示网页时需要把端口映射到本地， 不然界面显示不完整，如下图所示

Lagent 工具调用 Demo 创作部署