目录
ChatGLM是什么
傻瓜式安装部署
一.下载
二、解压
ChatGLM懒人安装包
ChatGLM是什么
ChatGLM和ChatGPT类似,是由清华大学开发的开源大型语言模型。由于它是开源的,所以带来了很多的可能性,比如可以像Ai绘画一样自己微调模型。
目前这个版本是6B的,需要一定的配置才能运行。如果你的显存只有6G,勉强能跑;8G稍微好一点;12G以上就可以正常运行了。此外,它对内存的需求也比较高,建议最好要有16G以上的内存。如果你没有NVIDIA的独立显卡,也可以使用CPU来运行。但是需要注意的是,这样会非常慢,并且需要32G以上的内存才能正常运行。
ChatGLM的本地一键包。这是一个完全在本地使用的语言模型,可以利用你的显卡来运行。
傻瓜式安装部署
一.下载
我在文章末端提供了下载链接,当你下载完成后,会有如下三个文件。
- 程序包(ChatGLM-webui.zip)
- 模型包(model.zip)
- 环境包(环境包.zip)
二、解压
先解压程序包到当前目录。
解压完毕后,再解压主程序(ChatGLM-webui.zip)
然后就可以看到解压出的文件目录了。
接下来,我们继续把模型(model.zip)和环境包(环境包.zip)都解压到上图的主程序根目录中。
现在我们已经全部解压完毕了,对应自己的显卡,去运行对应.bat文件。我的显卡是12G以上的,所以我运行12G以上显存-fp16_1.bat 文件
然后我们把链接复制到浏览器访问http://127.0.0.1:17860/
像访问ChatGPT一样输入内容发送,就能得到反馈,使用起来比较简单,详细的技巧自行研究,或者关注这篇文章:Prompt Engineering基础教程
启动完成后,打开网页就可以开始愉快的对话了。虽然这个模型比不上ChatGPT,毕竟它只有62亿的参数。但是这也是它的优势,因为它可以在家用显卡上运行。相信在未来,这个模型还会有很多的应用和玩法,因为它是开源的,只需要时间的沉淀。
ChatGLM懒人安装包
微云下载:文件分享