一、安装ollama
二、安装部署open-webui
1、项目运行环境
(1)配置python环境—官方下载链接
可通过命令行直接更改python镜像源为阿里云镜像源:
>pip config set global.index-url http://mirrors.aliyun.com/pypi/simple/
也可手动修改配置文件(默认路径C:\Users\Administrator\AppData\Roaming\pip\pip.ini)
(2)配置nodejs环境—官方下载链接
2、安装docker
(1)安装并更新wsl,使用管理员身份运行PowerShell,执行命令:
>wsl --update
重启电脑,执行命令:
>wsl --install
(2)下载安装docker
官方下载链接
安装之后运行出现以下弹窗,说明WSL环境安装成功。
3、配置open-webui
github页面
方法一:使用python快速部署(注意需使用3.11版本避免兼容性问题):
安装open-webui
>pip install open-webui
启动open-webui服务:
open-webui serve
方法二:使用docker快速部署
官方参考文档
若本机已安装ollama,可使用以下命令快速部署:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
运行支持Nvidia GPU的Open WebUI,执行命令:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
部署完成后,访问http://localhost:3000即可进入web界面。
首次进入会提示注册管理员用户,自行注册即可。