一、创建conda环境
重点强调下,如果用python pip安装,一定要选择python3.11系列版本,我选的3.11.9。 如果你的版本不是这个系列,将会出现一些未知的问题。
conda create -n open-webui python=3.11 -y
如下就创建好了
二、安装open-webui
pip install open-webui -i https://pypi.tuna.tsinghua.edu.cn/simple
三、启动
open-webui serve
如下图启动成功:
然后http://localhost:8080/访问,如果访问失败查看是否端口被占用,防火墙要关闭,我的就被防火墙拦截了 访问不了,关了就好了
netstat -ano | findstr :8080
如果占用杀死它
taskkill /F /PID 9780
或者换其他端口启动
open-webui serve --port=8081
然后就可以使用自己下载好的模型了
linux环境下需要做如下配置:
export HF_ENDPOINT=https://hf-mirror.com #用于指定 Hugging Face 的镜像地址,以加速模型下载
export OPENAI_API_BASE_URL=http://localhost:11434/v1 #设置了一个ollama环境变量 OPENAI_API_BASE_URL
export ENABLE_OLLAMA_API=True #用于启用 OLLAMA API 的配置