欢迎大家参与第三期书生大模型实战营!!!
1. 基础任务
任务描述:使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署,并生成 300 字小故事,记录复现过程并截图。
1. 首先创建开发机,并建立远程链接,具体操作参考另一篇博文。
2. 创建成功后,在 VSCode 终端里激活官方已给我们安装好的虚拟环境 /root/share/pre_envs/icamp3_demo。然后用 Linux 指令在根目录下创建一个 demo 文件夹和一个名为 cli_demo 的 .py 文件,详见下图。
3. 将官方参考文档里的给定代码复制进去。
4. 运行该文件,待终端出现如下内容,即表明模型启动成功(一开始需要下载模型)。
5. 根据任务要求,让模型生成一个300字的小故事,因为代码里设置了文本的流式输出,所以模型输出效果相当的好。