上一节003节我们安装到最后,本来大模型都可以回答问题了,结果,
5分钟后给出提示,需要GPU,我去..继续看官网,如何配置CPU运行
没办法继续看:
https://github.com/THUDM/ChatGLM-6B这里是官网可以看到
需要gcc的版本是11.3.0,这里我们先没有去安装,直接试试再说
yum install epel-release
yum install gcc-11.3.0
安装的话执行这个命令
可以看到我们现在gcc版本是4.8.5
不符合要求
gcc --verison
gcc -v -full
可以看到 版本4.8.5
然后去看官网,说
需要配置model = ...这里
