书生·浦语大模型--第二节课作业
- 基础部分
- 生成300字小故事
- hugging face 下载功能
- 进阶部分
- 浦语·灵笔的图文理解及创作部署
- Lagent 工具调用 Demo 创作部署
基础部分
生成300字小故事
hugging face 下载功能
hugging face被墙了,在本地电脑无论是不是科学上网,使用的时候都会报错。尝试了很多办法都没有成功。
因此,采用ModelScope
的方式来下载20B模型
- 首先安装依赖
pip install modelscope==1.9.5
pip install transformers==4.35.2
并使用python脚本下载
import torch
from modelscope import snapshot_download, AutoModel, AutoTokenizer
import os
model_dir = snapshot_download('Shanghai_AI_Laboratory/internlm-chat-20b', cache_dir='your path', revision='master')
一次就成功了,下载的时间比较长
进阶部分
浦语·灵笔的图文理解及创作部署
- 图文创作
- 图文理解
感觉性能还有待提升,比较笨
Lagent 工具调用 Demo 创作部署
测试数学题,简单的题还可以,知道用python写函数,复杂的就是胡说八道了。