Ollama下载安装+本地部署DeepSeek+UI可视化+搭建个人知识库——详解!(Windows版本)

news2025/4/25 22:02:38

目录

1️⃣下载和安装Ollama

1. 🥇官网下载安装包

2. 🥈安装Ollama

 3.🥉配置Ollama环境变量

4、🎉验证Ollama

2️⃣本地部署DeepSeek

1. 选择模型并下载

2. 验证和使用DeepSeek

3️⃣使用可视化工具

1. Chrome插件-Page Assist

4️⃣搭建个人知识库

1.安装“词嵌入模型”

 2. 安装Cherry Studio

3. 导入个人知识库


1️⃣下载和安装Ollama

1. 🥇官网下载安装包

首先我们到Ollama官网Ollama官网https://ollama.com/download/windows下载安装包,此处我们下载的是Windows版本的安装包

Windows安装包下载


2. 🥈安装Ollama

两点注意:

  1. Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
  2. 如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;

下面 介绍如何将Ollama安装到其他盘:

①首先将你的Ollama安装包放到想要安装的路径下,例如  D:\Ollama

②然后,在该路径下打开 CMD终端

 

  • 在终端输入命令符安装   

  ③然后在CMD窗口输入安装指令:OllamaSetup.exe /DIR=D:\Ollama

  语法解释:安装包名称 /DIR=应用程序指定安装的目录

 

然后Ollama就会进入安装,点击Install后,可以看到Ollama的安装路径就变成了我们指定的目录了;


3.🥉配置Ollama环境变量

通常安装完成后就可以继续使用了,但是对于某些电脑,比如我的是Win11,还需要进行一些环境变量的配置;

共需要进行三步环境变量的配置:

  1.  修改AI大模型的下载路径;
  2. 在系统环境Path路径下添加Ollama的环境变量;
  3. 配置服务监听地址允许让其他网络可以访问到本地的大模型(可选);

首先第一步:搜索框直接搜索“环境变量”,打开“编辑系统环境变量”设置:

1)配置AI大模型存储位置

  • 首先我们提前创建好AI大模型的存储路径;
    例如:我直接在Ollama安装路径下创建了一个Models文件夹作为存储路径:D:\Ollama\Models
  • 然后在系统变量栏,新建一个变量;
    变量名为:OLLAMA_MODELS
    变量值为:D:\Ollama\Models

2) 检查Ollama的环境变量

通常情况,Ollama安装时会自动为我们配置好环境变量;

验证方法:在CMD执行ollama命令

  • 如果识别失败,重启电脑再试一次;成功会有下面的样式:

  • 如果还是不成功,我们就需要手动配置一下:

(1)还是打开系统环境变量,双击Path:

(2) 点击新建,然后输入我们的Ollama安装目录

注意:添加到 PATH 的路径是包含 ollama.exe 可执行文件的安装目录,而不是其他子目录;

3)其他环境的配置(可选)

除了以上必要的基本配置外,还有几点环境变量可选择性的修改,以方便今后其他操作;

①配置服务监听地址用来允许让其他网络可以访问到本地的大模型

  • 变量名:OLLAMA_HOST
  • 变量值:0.0.0.0
OLLAMA_HOST       0.0.0.0    --任何IP都可以访问

监听ip地址默认为127.0.0.1(仅限本机访问);

如需远程访问可设置为0.0.0.0(设置方法同样是新建一个变量,输入变量名和值);

为http开放请求

  • 变量名:OLLAMA_ORIGINS
  • 变量值:*

下图所示:

4、🎉验证Ollama

上述步骤完成后,我们可以打开CMD,输入ollama -v命令,如果出现如下图所示的内容就代表Ollama安装成功了:


2️⃣本地部署DeepSeek

1. 选择模型并下载

① 我们打开Ollama官网,点击顶部的Models链接,此时我们就会看到deepseek-r1模型排在第一位,如下图所示:

DeepSeek

② 点击deepseek-r1链接进去,此时我们会看到下拉框中有各个版本的大模型,如下图:

  • 模型越大对电脑硬件的要求越高,具体可根据自己的电脑和需求有选择性的下载
  • 通常对于游戏本来说,下载7B的是没什么问题的;


③ 随后我们复制后面的命令ollama run deepseek-r1,粘贴到新打开的CMD窗口中回车执行;

2. 验证和使用DeepSeek

在DeepSeek下载完成后,我们就可以在CMD中进行对话了,如下图所示:

如果想退出对话,我们可以通过 /bye 命令退出,如下图所示:

 ③ 假设我们安装了多个DeepSeek模型,我们可以通过 ollama list命令查看已安装了的模型,如下图所示:

如果我们想运行某个模型,我们可以通过ollama run 模型名称命令运行即可,如下图所示: 


3️⃣使用可视化工具

1. 使用Chrome插件-Page Assist

首先我们通过谷歌浏览器官方插件地址搜索Page Assist,下载第一个插件,如下图所示:

安装完成后,可以将该插件固定到 浏览器顶部,方便使用,如下图所示 

随后我们点击该插件,就会出现如下图所示的界面:

Page Assist

注意如果界面出现:Unable to connect to Ollama的提示,说明Ollama没有启动;

④ 设置中文:点击界面右上角的Settings按钮,将语言设置为简体中文,如下图所示:

Page Assist

Page Assist

设置完成后返回主界面,此时就是中文界面了。

⑤ 选择模型:点击主界面中的第一个下拉框,选择一个我们下载的模型deepseek-r1:1.5,如下图

到此配置完成,我们就可以愉快的对话了,如下图:

 


4️⃣搭建个人知识库

1.安装“词嵌入模型”

  • 当我们给deepseek搭建自己的知识库体系时,需要用到一个嵌入模型shaw/dmeta-embedding-zh

再次打开Ollama官网,搜索 dmeta-embedding-zh 选择第一个词条

同样的,复制右侧下载指令,粘贴到CMD执行 如下图:

 2. 安装Cherry Studio

  • Cherry Studio是一款AI知识库集成软件
  •  官网:

    Cherry Studio - 全能的AI助手

① 打开Cherry Studio官网,下载windows版 ,并根据引导安装即可;

安装成功后,界面如下图所示:

② 在 Cherry Studio中导入本地下载好的DeepSeek

(设置 —> Ollama —> 管理)

 (在管理界面,我们可以看到所有从Ollama下载到本地的大模型,然后点击右侧➕号即可导入)

如下图:

③ 导入成功后,再次回到助手界面,点击顶部模型切换版本;

 (之后我们也可以在该界面使用我们本地的deepSeek了,也是美化了使用界面)

 

3. 导入个人知识库

① 点击左侧知识库一栏,添加知识库

给自己的知识库起个名字,然后选择之前下载好的"词嵌入模型",如下图:

注意:如果这里没有显示的话,可能是你没有导入进来;(记得在上几步管理界面点击加号导入

然后,在以下界面,你可以导入自己的知识库 喂给AI大模型;

直接拖过来即可

 当然,你也可以导入一些网址、网站、笔记等等

看看效果:

可能是 本人的电脑太垃了🥲,跑7b的Deepseek模型,回答一个问题要215秒哈😂

至此,我们就完成了 Ollama的下载和安装+本地部署DeepSeek+UI可视化+搭建个人知识库的操作;如果有任何问题,欢迎大家评论区交流探讨!🎉🎉🎉

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2307732.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

STM32内存五区及堆栈空间大小设置(启动文件浅析)

前言 嘿,朋友们!今天咱们来聊聊STM32的内存五区和堆栈空间大小设置。这可是嵌入式开发里的“必修课”,要是没整明白,程序说不定就“翻车”了。别担心,我这就带你一步步搞懂这事儿,让你轻松上手&#xff0c…

Go红队开发—语法补充

文章目录 错误控制使用自定义错误类型错误包装errors.Is 和 errors.Aspanic捕获、recover 、defer错误控制练习 接口结构体实现接口基本类型实现接口切片实现接口 接口练习Embed嵌入文件 之前有师傅问这个系列好像跟红队没啥关系,前几期确实没啥关系,因为…

IP----访问服务器流程

这只是IP的其中一块内容-访问服务器流程,IP还有更多内容可以查看IP专栏,前一段学习内容为IA内容,还有更多内容可以查看IA专栏,可通过以下路径查看IA-----配置NAT-CSDN博客CSDN,欢迎指正 1.访问服务器流程 1.分层 1.更利于标准化…

阿里云ack的创建与实战应用案例

阿里云ack的创建与应用案例 创建前开通ack相关服务:开始创建简单的魔方游戏,熟悉sv与clb自动注册创建部署一个nginx 服务示例:走不同域名访问不同svc资源:为什么需要 Ingress ?创建第一个域名的 Deployment和Service。…

llama.cpp 一键运行本地大模型 - Windows

文章目录 llama.cpp 一键运行本地大模型 - Windows嘿,咱来唠唠 llama.cpp 这玩意儿!gguf 格式是啥?咱得好好说道说道基座模型咋选?所需物料,咱得准备齐全咯核心命令,得记牢啦运行方式咋选?测试应…

BUU40 [CSCCTF 2019 Qual]FlaskLight1【SSTI】

模板: {{.__class__.__base__.__subclasses__()[80].__init__.__globals__[__builtins__].eval("__import__(os).popen(type flag.txt).read()")}} 是个空字符串,.__class__代表这个空字符串的类是什么(这里是单引号双引号都行&a…

C# | GDI+图像测距辅助线的实现思路

C# | GDI图像测距辅助线的实现思路 文章目录 C# | GDI图像测距辅助线的实现思路一、辅助线需求概述二、坐标系与角度计算2.1 笛卡尔坐标系2.2 线长和角度计算方法2.3 文本角度矫正计算方法2.4 坐标变换实现步骤 三、与if判断方式对比四、总结 一、辅助线需求概述 在图像测量工…

免费使用 DeepSeek API 教程及资源汇总

免费使用 DeepSeek API 教程及资源汇总 一、DeepSeek API 资源汇总1.1 火山引擎1.2 百度千帆1.3 阿里百炼1.4 腾讯云 二、其他平台2.1 华为云2.2 硅基流动 三、总结 DeepSeek-R1 作为 2025 年初发布的推理大模型,凭借其卓越的逻辑推理能力和成本优势,迅速…

java后端开发day20--面向对象进阶(一)--static继承

(以下内容全部来自上述课程) 1.static–静态–共享 static表示静态,是java中的一个修饰符,可以修饰成员方法,成员变量。 1.静态变量 被static修饰的成员变量,叫做静态变量。 特点: 被该类…

Spring Boot集成MyBatis访问MySQL:从项目搭建到基础数据库查询(基础入门)

Spring Boot集成MyBatis访问MySQL 一、引言 在当今企业级应用开发中,Spring Boot、MyBatis与MySQL的组合凭借其高效性和灵活性,成为构建数据驱动型应用的首选方案。本文将带你从零开始搭建项目,掌握Spring Boot集成MyBatis的基础入门内容。…

ShenNiusModularity项目源码学习(14:ShenNius.Infrastructure项目分析)

ShenNius.Infrastructure项目用于定义ShenNius.Admin.Mvc项目和ShenNius.Admin.API项目共用的特性类、数据操作接口实现类、上下文类、通讯类,主要文件的用途如下:   Attributes文件夹保存特性类或过滤器类定义,主要包括:   …

【C语言】第八期——指针、二维数组与字符串

目录 1 初始指针 2 获取变量的地址 3 定义指针变量、取地址、取值 3.1 定义指针变量 3.2 取地址、取值 4 对指针变量进行读写操作 5 指针变量作为函数参数 6 数组与指针 6.1 指针元素指向数组 6.2 指针加减运算(了解) 6.2.1 指针加减具体数字…

Spring Boot集成Spring Security之HTTP请求授权

一、HTTP请求授权工作原理 ​ 基于Spring Security最新的Http请求授权讲解,不再使用旧版的请求授权 授权过滤器AuthorizationFilter获取认证信息 调用RequestMatcherDelegatingAuthorizationManager的check方法验证该用户是否具有该请求的授权 RequestMatcherDele…

可以免费无限次下载PPT的网站

前言 最近发现了一个超实用的网站,想分享给大家。 在学习和工作的过程中,想必做PPT是一件让大家都很头疼的一件事。 想下载一些PPT模板减少做PPT的工作量,但网上大多精美的PPT都是需要付费才能下载使用。 即使免费也有次数限制&#xff0…

从零开始自主「起身站立」,上海AI Lab发布最新控制算法,机器人:起猛了

来源 | 机器之心 近日,上海 AI Lab 具身智能中心研究团队在机器人控制领域取得了最新突破,提出的 HoST(Humanoid Standing-up Control)算法,成功让人形机器人在多种复杂环境中实现了自主站起,并展现出强大…

Solr中得Core和Collection的作用和关系

Solr中得Core和Collection的作用和关系 一, 总结 在Apache Solr中,Core和Collection 是两个核心概念,他们分别用于单机模式和分布式模式(SolrCloud)中,用于管理和组织数据。 二,Core 定义&am…

AI驱动的自动化留给人类的时间不多了

时间紧迫!时间紧迫!时间紧迫! 关于AI工作流催生的行业任务自动化时间窗口,结合技术成熟度、成本效益、行业特性等维度,可划分为以下阶段: 一、技术渗透阶段(2025-2028年) 高重复性任…

使用 Containerd 通过 HTTP 协议拉取 Harbor 私有镜像仓库的镜像

在 Kubernetes 1.24及以上版本环境中,docker不再被支持,主要使用Containerd 是常用的容器运行。默认情况下,Containerd 使用 HTTPS 协议与镜像仓库通信。然而,在某些场景下(如测试环境或内部网络)&#xff…

Dify在Ubuntu20.04系统的部署

文章目录 一、dify 介绍1.核心功能优势2.应用场景 二、dify 安装(docker方式)1.代码库下载2.配置文件修改3.启动docker 容器 三、遇到问题与解决1.使用sudo docker compose up -d报错2.使用service docker start报错 一、dify 介绍 Dify 是一款开源的大语言模型(LL…

达梦:内存相关参数

目录 28个相关参数1. 内存池相关MEMORY_POOLMEMORY_N_POOLSMEMORY_BAK_POOL 2. 大缓冲区相关HUGE_BUFFERHUGE_BUFFER_POOLS 3. 共享缓冲区相关BUFFERBUFFER_POOLSBUFFER_MODEMAX_BUFFER 4. 快速池相关FAST_POOL_PAGES 5. 回收池相关RECYCLE_POOLS 6. 回滚段池相关ROLLSEG_POOLS…