【图书推荐】《ChatGLM3大模型本地化部署、应用开发与微调》-CSDN博客
通过简单的代码领略一下ChatGLM3大模型_chatglm3 history怎么写-CSDN博客
除了我们上面使用自定义的gradio组件完成网页客户端的搭建,智谱AI的ChatGLM3在创建之初就本着“方便用户,以人为本”的原则,为用户提供了对应的网页客户端代码,从而方便用户直接使用网页端的ChatGLM3应用程序。
读者可以直接打开本章配套源码文件夹中的web_demo.py文件。在运行这个文件之前,部分读者可能需要安装一些适配的库包,安装命令如下(推荐使用gadio==3.40.0固定版本):
pip install gradio==3.40.0, mdtex2html
注意:在安装的时候,部分读者会有如图3-23所示的报错,这个问题是由于安装的gradio版本不对,需要按上述命令指定安装gradio==3.40.0即可解决。或者当有输入无输出反应的情况下,也请读者尝试更新gradio版本,解决输出无结果的问题。
接下来,直接在Python中右键run运行web_demo.py文件,在合并了存档记录后,读者的网页客户端会自动打开如下地址,此时,ChatGLM3会运行在本地,界面如图3-24所示。
Running on local URL: http://127.0.0.1:7860
我们通过这个界面,可以开启多轮对话,读者可以依据自己的问题与ChatGLM交互,从而获得相关问题的答案。
按本文开头的博文,搭建好环境的读者可以测试一下。
本文节选自《ChatGLM3大模型本地化部署、应用开发与微调》,获出版社和作者授权发布。
《ChatGLM3大模型本地化部署、应用开发与微调(人工智能技术丛书)》(王晓华)【摘要 书评 试读】- 京东图书 (jd.com)