Ollama 是一个用于管理 AI 模型的工具

下载 Ollama

Ollama

选择版本

下载模型 

安装好后，下载模型

选择模型

选择模型大小，复制对应命令（越大越聪明，但是内存要求越高）

  

打开控制台运行命令，第一次运行会自动安装，后面再运行就可以直接对话

 安装后，可直接对话（可以按Ctrl+d退出，需要下次对话继续执行上面的命令即可）

 可视化操作

安装 Open WebUI

​https://github.com/open-webui/open-webui?tab=readme-ov-file

需要提前安装 python ，官方说要 3.11.x/3.12.x  ；但此时 3.11.12 好像不支持 .exe 安装，所以此处下载了3.12.10

https://www.python.org/downloads/

安装完 python 后，打开控制台，执行安装 Open WebUI 命令

pip install open-webui

 安装比较久，安装完后应该可以直接访问：http://localhost:8080/ ，如不行关闭安装命令窗口，重新开一个命令控制台，执行以下操作来启动Open WebUI

open-webui serve

 出现以下表示启动成功，在浏览器打开 http://localhost:8080/

会提示先注册，注册的账号是存在本地，注册后登录即可

 

参考

百度安全验证