ChatGLM3Loader执行时发生错误: Library cudart is not initialized。
文章《Chatglm3部署踩坑记录》里提到是因为没有安装 CUDA Toolkit 引起。
1、用 nvidia-smi.exe 命令查看显卡当前驱动程序版本
2、NVIDIA CUDA 工具包发行说明,每个 CUDA 工具包版本中打包的开发 NVIDIA GPU 驱动程序的版本如下所示。
3、从 CUDA Toolkit 存档 下载想要安装的版本(当然下载最新版):
不玩游戏,也不需要自动更新驱动,所以不安装 Geforce Experience ,安装驱动是需要的:
安装 CUDA Toolkit 后,ChatGLM3Loader加载运行正常。
后来运行InstantID Face Analysis时出错如下:
onnxruntime::python::CreateExecutionProviderInstance CUDA_PATH is set but CUDA wasnt able to be loaded. Please install the correct version of CUDA andcuDNN as mentioned in the GPU requirements page (https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements), make sure they're in the PATH, and that your GPU is supported.
根据上面网址文档发现,我还得将 CUDA Toolkit 降回 11.8 。