1、申请免费的阿里云 PAI-DSW 资源,这个比较基础不做介绍了
2、从第二步开始,我们介绍部署ChatGLM3过程:PAI-DSW 资源界面如下图:点击开启新终端
3、默认目录下面建一个test目录,如下图:
4、执行命令cd test 切换到test目录下,执行命令git clone https://github.com/THUDM/ChatGLM3执行完成后test目录下出现ChatGLM3目录:如下图:
5、执行命令cd ChatGLM3进入ChatGLM3目录如下图:打开requirements.txt,文末加上mdtex2html如下图:
6、执行命令pip install -r requirements.txt 等命令执行完成,再执行git lfs install
7、然后执行命令git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git下载模型,然后ChatGLM3目录出现新目录---如下图:
8、修改chatgm3-6b目录下的下的“config.json”,模型目录替换成自己的目录即可:如下图:
9、修改basic_demo下的“web_demo_gradio.py”中的大模型目录,替换成自己的。如下图:
10、执行命令python /mnt/workspace/test/ChatGLM3/basic_demo/web_demo_gradio.py运行即可:如下图