windows下open webui+ollama+sd webui

news2025/2/26 2:49:21

原文:https://wangguo.site/Blog/2024/Q2/2024-06-14/

说明:安装使用环境是在Windows下

1、给ollama一个好看的交互界面(open webui)

1.1、ollama安装

  • 安装:在ollama官网下载windows版本进行安装
  • 模型列表:支持的模型列表可以在ollama模型仓库查看
    在这里插入图片描述
  • 模型下载:使用ollama pull 模型名称下载模型
    如:ollama pull llama3
  • 模型使用
    • 终端使用:使用ollama run 模型名称即可使用
      如:ollama run llama3
    • api使用:使用ollama serve、或者直接点击ollama图标即可在这里插入图片描述
  • api服务验证:浏览器端输入127.0.0.1:11434,显示ollama id running即为正常
    在这里插入图片描述

1.2、open webui安装

Open WebUI是一个可扩展、功能强大且用户友好的自主WebUI,旨在完全离线操作。它支持多种LLM运行器,包括Ollama和OpenAI,兼容API。

  • 基于docker安装open webui
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • 本地打开:localhost:3000
    首次打开需要注册,第一位注册的用户默认为管理员(注册的信息随便填写,只要邮箱符合@规则即可)在这里插入图片描述
    此时我们点击“选择一个模型”的时候是没有模型列表的,这个时候就需要配置ollama了

1.3、open webui引入ollama

  • 首先,我们需要让ollama可以通过本地ip访问,windows下需要新建环境变量

步骤:windows下直接搜索编辑系统环境变量-环境变量-在系统变量中新建-变量名:OLLAMA_HOST;变量值:0.0.0.0在这里插入图片描述

  • 验证ollama:此时在浏览器输入本地ip+端口号就显示可以正常使用了。比如我的地址为:192.168.1.9:11434
    在这里插入图片描述
  • 在open webui中配置ollama服务,并进行验证

步骤:点击右上角的图标-设置-管理员设置-外部连接-在ollama api中填写本地ip+端口号,如192.168.1.9:11434
验证:点击后面的刷新按钮,弹出已验证服务器连接
在这里插入图片描述

  • open webui中使用ol lama服务
    此时就可以选择ollama下载的模型进行对话使用了
    在这里插入图片描述

2、在open webui中连接sd,引入图像生成的功能

2.1、sd webui安装

  • 前提:需要安装git/python
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
./webui.bat
  • 打开本地IP+端口号7860
    在这里插入图片描述
  • web.bat中添加启动参数(13行左右),以便sd提供api服务
set COMMANDLINE_ARGS=--xformers --api --listen --share

2.2、open webui引入sd

管理员面板- 设置-图像里面按照下图进行配置,所有的参数都可以根据自己的进行修改在这里插入图片描述

3、使用

  • 正常对话,进行描述
    在这里插入图片描述
  • 点击图像生成按钮,便可以生成图像
    在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1823830.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ChatGPT等大模型可以代替搜索引擎吗?

在知乎看到一个问题,回答了一下,分享到这里。 把ChatGPT当作搜索引擎可靠性差点,但是可行。 代替搜索引擎 1、写代码 我们可以让GPT写一段算法代码或者使用某个语言API的示例,然后只需要把这段代码粘贴到IDE中,简单…

Linux编辑器 vim使用 (解决普通用户无法进行sudo提权问题)

文章目录 一.vim是什么命令模式底行模式 二.关于vim暂停问题三.注释批量化注释批量化去注释 四.解决普通用户无法进行sudo提权问题五.vim的配置 一.vim是什么 用过VS的都知道,拥有着编辑器编译器调试.编写C,C,python等的功能。就是集成 Linu…

Git 基础操作(一)

Git 基础操作 配置Git 安装完Git后,首先要做的事情是设置你的 用户名 和 e-mail 地址。这样在你向仓库提交代码的时候,就知道是谁提交的,以及提交人的联系方式。 配置用户名和邮箱 使用git config [--global] user.name "你的名字&qu…

网络爬虫概述

自学python如何成为大佬(目录):https://blog.csdn.net/weixin_67859959/article/details/139049996?spm1001.2014.3001.5501 网络爬虫(又被称为网络蜘蛛、网络机器人,在某社区中经常被称为网页追逐者),可以按照指定的规则&#…

神经网络-万能近似定理的探索

神经网络-万能近似定理的探索 对于这个实验博主想说,其实真的很有必要去好好做一下,很重要的一个实验。 1.理论介绍 万能近似定理: ⼀个前馈神经⽹络如果具有线性层和⾄少⼀层具有 “挤压” 性质的激活函数(如 sigmoid 等)&…

基于Matlab的细胞计数图像处理系统(GUI界面有报告) 【含Matlab源码 MX_003期】

简介: 本文旨在解决生物血细胞数目统计的挑战,提出了基于图像处理的综合方案。通过MATLAB平台,我们设计并实现了一套完整的细胞图像处理与分析流程。在预处理阶段,采用图像增强和阈值分割等方法,有效地提高了细胞图像的…

Swift开发——输出格式化字符

Swift语言是开发iOS和macOS等Apple计算机和移动设备系统应用程序的官方语言。Swift语言是一种类型安全的语言,语法优美自然,其程序从main.swift文件开始执行,程序代码按先后顺序执行,同一个工程的程序文件中的类和函数直接被main.swift文件调用,除了main.swift文件外,工程…

【数据挖掘-思考】分类和聚类

将芝麻和花生分开,是一个分类问题还是聚类问题? 显而易见的,在日常生活中,这是一个分类问题,在数据挖掘领域中,是否也是这样呢? 通义千问的回答: 在数据挖掘中,将芝麻和花生分开可以…

【C语言】14. qsort 的底层与模拟实现

一、回调函数 回调函数就是⼀个通过函数指针调用的函数。 把函数的指针(地址)作为参数传递给另⼀个函数,当这个指针被用来调用其所指向的函数时,被调用的函数就是回调函数。回调函数不是由该函数的实现方直接调用,而是…

思维+暴力,CF992D - Nastya and a Game

一、题目 1、题目描述 2、输入输出 2.1输入 2.2输出 3、原题链接 992D - Nastya and a Game 二、解题报告 1、思路分析 这个题题目很吓人 因为看起来前缀和根本存不下,似乎没法算 这也提示我们似乎只需在小范围内枚举求解即可 题目的P / K SUM也保证了我们…

SQL中的UPDATE语句:别让你的数据“离家出走”

sql的update操作正式环境用的很少,但是在测试环境还是用的挺多的。 想象一下,你正在管理一个学校的数据库,其中有一个students表,记录着每个学生的信息。有一天,你接到通知说某个学生的年龄或成绩需要更新。这时&…

54.Python-web框架-Django-免费模板django-datta-able

1.Datta Able Django介绍 Detta Able Djiango是什么 Datta Able Django 是一个由AppSeed提供的开源Django管理面板,基于现代设计,为开发者提供了一流的功能和优雅的界面。它源自CodedThemes的高风格化Bootstrap 4模板——Datta Able Bootstrap Lite&…

云电脑有多好用?适合哪些人使用?

云电脑作为一种新型的计算模式,其应用场景广泛且多样,适合各类人群使用。云电脑适合什么人群使用?云电脑有哪些应用场景?有什么好的云电脑推荐?以下本文将详细探讨云电脑的主要应用场景及其适用人群的相关内容&#xf…

【YOLOv5/v7改进系列】改进池化层为RT-DETR的AIFI

一、导言 Real-Time DEtection TRansformer(RT-DETR),是一种实时端到端目标检测器,克服了Non-Maximum Suppression(NMS)对速度和准确性的影响。通过设计高效的混合编码器和不确定性最小化查询选择&#xf…

缩窄route范围来提速本地打包的尝试

目录 为什么要缩窄route范围缩窄route的方式意外触发的重复构建重复构建的原因解决方案 为什么要缩窄route范围 对于一些大单页,单个router-view中可能包含上百个页面。但是开发的时候其实并不需要那么多调试那么多页面。 因此,为了节省不必要的打包和热…

【SpringBoot + Vue 尚庭公寓实战】地区信息管理接口实现(九)

【SpringBoot Vue 尚庭公寓实战】地区信息管理接口实现(九) 文章目录 【SpringBoot Vue 尚庭公寓实战】地区信息管理接口实现(九)1、业务说明2、数据逻辑模型3、接口实现3.1、查询省份信息列表3.2、根据省份ID查询城市信息列表3…

Python对象序列化库之dill使用详解

概要 在 Python 编程中,序列化(Serialization)和反序列化(Deserialization)是处理对象持久化和数据传输的常见任务。Python 提供了内置的 pickle 模块用于对象序列化,但它在处理复杂对象(如带有 lambda 函数、生成器和闭包的对象)时存在一定局限性。dill 库是 pickle …

本地运行大语言模型(LLMs)

用例 像PrivateGPT、llama.cpp、Ollama、GPT4All、llamafile 等项目的流行度凸显了本地(在您自己的设备上)运行大型语言模型(LLMs)的需求。 这至少有两个重要的好处: 1.隐私:您的数据不会发送给第三方&a…

【Java面试】十八、并发篇(中)

文章目录 1、什么是AQS2、ReentrantLock的实现原理2.1 原理2.2 其他补充点 3、synchronized和Lock有什么区别3.1 区别3.2 Demo代码3.3 signal方法的底层实现 4、死锁的产生与排查4.1 死锁产生的条件是什么4.2 死锁的排查 1、什么是AQS AQS,抽象队列同步器&#xff…

汇编:内联汇编和混合编程

C/C内联汇编 C/C 内联汇编(Inline Assembly)是一种在C或C代码中嵌入汇编语言指令的方法,以便在不离开C/C环境的情况下利用汇编语言的优势进行性能优化或执行特定的硬件操作。以下是一些详细的说明和示例,展示如何在C和C代码中使用…