书生·浦语大模型--第二节课作业

基础部分

生成300字小故事

hugging face 下载功能

hugging face被墙了，在本地电脑无论是不是科学上网，使用的时候都会报错。尝试了很多办法都没有成功。

因此，采用ModelScope的方式来下载20B模型

• 首先安装依赖

pip install modelscope==1.9.5
pip install transformers==4.35.2
1
2

并使用python脚本下载

import torch
from modelscope import snapshot_download, AutoModel, AutoTokenizer
import os
model_dir = snapshot_download('Shanghai_AI_Laboratory/internlm-chat-20b', cache_dir='your path', revision='master')
1
2
3
4

一次就成功了，下载的时间比较长

进阶部分

浦语·灵笔的图文理解及创作部署

• 图文创作
  
• 图文理解
  感觉性能还有待提升，比较笨
  

Lagent 工具调用 Demo 创作部署

测试数学题，简单的题还可以，知道用python写函数，复杂的就是胡说八道了。