使用Ollama本地部署DeepSeek R1

news2025/1/30 21:15:55

前言

DeepSeek是一款开源的智能搜索引擎,能够通过深度学习技术提高搜索的智能化水平。如果你正在寻找一种方式来将DeepSeek部署在本地环境中,Ollama是一个非常方便的工具,它允许你在本地快速部署并管理各种基于AI的模型。

在本篇博客中,我们将一步一步地指导你如何使用Ollama工具在本地环境中部署DeepSeek模型。

本地部署是指将AI模型部署在用户自己的本地设备上,直接处理数据和任务,无需依赖云端服务器。
这种方式可以确保数据隐私和安全,适合对数据敏感性要求高的场景。

一、Ollama

Ollama是一个支持在WindowsLinuxMacOS上本地运行大语言模型的工具。它允许用户非常方便地运行和使用各种大语言模型,比如Qwen模型等。只需一行命令就可以启动模型。

1.1 下载Ollama

Ollama下载地址
选择对应操作系统进行下载.exe文件,这里以Windows为例:
在这里插入图片描述

1.2 安装Ollama

点击Install一键安装
在这里插入图片描述
安装完成后,查看Ollama版本,执行命令:ollama -vollama --version
查看下载的模型列表,执行命令:ollama list

在这里插入图片描述

1.3 常用命令

在这里插入图片描述
查看已部署的大模型:ollama list
查看正在运行中的大模型:ollama ps
部署或者运行一个大模型:ollama run <model_name>
停止在运行的大模型:ollama stop <model_name>

1.4 修改环境配置

在这里插入图片描述
模型存放地址默认在C:\Users\用户名\.ollama\models,若下载模型过多,会导致C盘存储不够用,建议修改

新建环境变量,OLLAMA_MODELS
在这里插入图片描述
新建环境变量,OLLAMA_HOST,默认端口为11434端口,若有端口冲突,自行修改【可选】
在这里插入图片描述
新建环境变量,OLLAMA_ORIGINS,【可选】
在这里插入图片描述
修改环境变量后,需要重启Ollama

找到Ollama小羊驼图标,右键 Quit Ollama
在这里插入图片描述
搜索找到Ollama,以管理员身份运行
在这里插入图片描述
重启后,黑窗口执行ollama -v检查一下是否启动成功
浏览器查看一下API服务:127.0.0.1:11434
在这里插入图片描述
若配置了OLLAMA_HOST,可在黑窗口执行ipconfig命令,查看本机IP,通过本机IP访问API服务
在这里插入图片描述

若连接不上,则自行检查环境变量,确保无误

二、下载DeepSeek R1模型

https://ollama.com/library/deepseek-r1

访问Ollama官网,点击左上角的Models按钮,找到DeepSeek R1模型
在这里插入图片描述
在黑窗口运行,下载模型,需要耐心等待
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

三、下载可视化界面 - Open WebUI

3.1 下载Chrome浏览器的插件 Page Assist【推荐】

在Chrome浏览器,点击竖着的… > 扩展程序 > 访问 Chrome 浏览器应用商店 > 搜索
在这里插入图片描述
下载完成后,快捷键 Ctrl + Shift + L 即可打开可视化页面【前提:先启动Ollama服务】

点击设置修改语言
在这里插入图片描述
选择模型
在这里插入图片描述
在这里插入图片描述
即可进行对话
在这里插入图片描述

3.2 使用python安装

亲测有效:史上最简单open-webui安装方式!!! ,但有点卡顿

3.3 使用docker安装

该方法最为繁琐,不推荐,但UI要美观些

github源码地址:https://github.com/open-webui/open-webui
在这里插入图片描述
找到Installation with Default Configuration
在这里插入图片描述
如果 Ollama 在您的计算机上

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果 Ollama 位于其他服务器上,请使用以下命令:
要连接到另一台服务器上的 Ollama,请将OLLAMA_BASE_URL更改为服务器的 URL:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.2.6:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

这里我Ollama 位于其他服务器上,使用第二个命令
在这里插入图片描述

注意:访问不到,记得开放端口,参考Linux-开启端口

初次登录,注册一个账号,该账号默认为管理员
在这里插入图片描述
点击头像 > 设置 > 管理员设置
在这里插入图片描述
点击外部连接 > 设置Ollama API连接
在这里插入图片描述
选择一个模型,即可开始对话
在这里插入图片描述

总结

通过本地部署 DeepSeek R1,我们可以将 AI 模型和搜索引擎直接运行在自己的设备上,从而有效保护数据隐私和安全。在部署过程中,Ollama 提供了简单易用的工具,支持快速下载和管理模型,极大地简化了本地部署的流程。然而,值得注意的是,这种方式需要一定的硬件支持,并且部署过程中可能会涉及到科学上网配置相关问题。

尽管本地部署可能会比较繁琐,但它的优势在于:

  • 数据安全:通过本地环境运行 AI 模型,用户的数据不会暴露给云端服务,确保数据隐私。
  • 灵活控制:用户可以自由管理模型、调整配置、优化性能。
  • 离线使用:无需依赖外部服务,能够在没有网络的情况下使用模型。

对于需要高效且可定制的本地智能搜索引擎,DeepSeek R1 + Ollama + Open-WebUI 无疑是一个值得尝试的解决方案。

博主也在摸索阶段,有问题及时欢迎讨论!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2286603.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

单片机基础模块学习——超声波传感器

一、超声波原理 左边发射超声波信号&#xff0c;右边接收超声波信号 左边的芯片用来处理超声波发射信号&#xff0c;中间的芯片用来处理接收的超声波信号 二、超声波原理图 T——transmit 发送R——Recieve 接收 U18芯片对输入的N_A1信号进行放大&#xff0c;然后输入给超声…

使用 OpenResty 构建高效的动态图片水印代理服务20250127

使用 OpenResty 构建高效的动态图片水印代理服务 在当今数字化的时代&#xff0c;图片在各种业务场景中广泛应用。为了保护版权、统一品牌形象&#xff0c;动态图片水印功能显得尤为重要。然而&#xff0c;直接在后端服务中集成水印功能&#xff0c;往往会带来代码复杂度增加、…

Elastic Agent 对 Kafka 的新输出:数据收集和流式传输的无限可能性

作者&#xff1a;来 Elastic Valerio Arvizzigno, Geetha Anne 及 Jeremy Hogan 介绍 Elastic Agent 的新功能&#xff1a;原生输出到 Kafka。借助这一最新功能&#xff0c;Elastic 用户现在可以轻松地将数据路由到 Kafka 集群&#xff0c;从而实现数据流和处理中无与伦比的可扩…

Elasticsearch 性能测试工具 Loadgen 之 002——命令行及参数详解

上一讲&#xff0c;我们讲解了 Loadgen 的极简部署方式、配置文件、快速使用从 0 到 1 方式。 本讲&#xff0c;我们主要解读一下 Loadgen 的丰富的命令行及参数含义。 有同学可能会说&#xff0c;上面不是介绍很清楚了吗&#xff1f;但&#xff0c;咱们还是有必要详细中文解读…

书生大模型实战营3

文章目录 L0——入门岛git基础Git 是什么&#xff1f;Git 中的一些基本概念工作区、暂存区和 Git 仓库区文件状态分支主要功能 Git 平台介绍GitHubGitLabGitee Git 下载配置验证下载 Git配置 Git验证 Git配置 Git常用操作Git简易入门四部曲Git其他指令 闯关任务任务1: 破冰活动…

【玩转全栈】----靓号管理系统实现

先赞后看&#xff0c;养成习惯。。。 目录 数据库设置 基本功能 路由器 靓号显示 靓号添加 靓号编辑 视图函数 额外功能 搜索功能 分页 一般逻辑 动态页码 上下页 首尾页 数据库设置 新建一个数据库&#xff08;或者就用之前部门、用户管理的也行&#xff09;&#xff0c;用Dja…

【Attention】KV Cache

1 什么是KV Cache&#xff1f; 定义&#xff1a;KV Cache 即 Key-Value Cache&#xff0c;是用于加速 Transformer 模型推理长序列过程的一种技术。 核心原理&#xff1a;在 Transformer 的自注意力机制中&#xff0c;将历史输入 token 中的 Key 和 Value 缓存下来&#xff0c…

【Proteus仿真】【51单片机】多功能计算器系统设计

目录 一、主要功能 二、使用步骤 三、硬件资源 四、软件设计 五、实验现象 联系作者 一、主要功能 1、LCD1602液晶显示 2、矩阵按键​ 3、加减乘除&#xff0c;开方运算 4、带符号运算 5、最大 999*999 二、使用步骤 基于51单片机多功能计算器 包含&#xff1a;程序&…

【教学类-89-01】20250127新年篇01—— 蛇年红包(WORD模版)

祈愿在2025蛇年里&#xff0c; 伟大的祖国风调雨顺、国泰民安、每个人齐心协力&#xff0c;共同经历这百年未有之大变局时代&#xff08;国际政治、AI技术……&#xff09; 祝福亲友同事孩子们平安健康&#xff08;安全、安全、安全&#xff09;、巳巳如意&#xff01; 背景需…

leetcode——二叉树的最大深度(java)

给定一个二叉树 root &#xff0c;返回其最大深度。 二叉树的 最大深度 是指从根节点到最远叶子节点的最长路径上的节点数。 示例 1&#xff1a; 输入&#xff1a;root [3,9,20,null,null,15,7] 输出&#xff1a;3 示例 2&#xff1a; 输入&#xff1a;root [1,null,2] 输…

Java创建项目准备工作

新建项目 新建空项目 每一个空项目创建好后都要检查jdk版本 检查SDK和语言级别——Apply——OK 检查当前项目的Maven路径&#xff0c;如果已经配置好全局&#xff0c;就是正确路径不用管 修改项目字符集编码&#xff0c;将所有编码都调整为UTF-8 创建Spingboot工程 创建Spring…

汽车免拆诊断案例 | 2007 款日产天籁车起步加速时偶尔抖动

故障现象  一辆2007款日产天籁车&#xff0c;搭载VQ23发动机&#xff08;气缸编号如图1所示&#xff0c;点火顺序为1-2-3-4-5-6&#xff09;&#xff0c;累计行驶里程约为21万km。车主反映&#xff0c;该车起步加速时偶尔抖动&#xff0c;且行驶中加速无力。 图1 VQ23发动机…

【JavaEE】_MVC架构与三层架构

目录 1. MVC架构 2. 三层架构 3. MVC架构与三层架构的对比 3.1 MVC与三层架构的对比 3.2 MVC与三层架构的共性 1. MVC架构 在前文已介绍关于SpringMAC的设计模式&#xff0c;详见下文&#xff1a; 【JavaEE】_Spring Web MVC简介-CSDN博客文章浏览阅读967次&#xff0c;点…

单片机基础模块学习——PCF8591芯片

一、A/D、D/A模块 A——Analog 模拟信号:连续变化的信号(很多传感器原始输出的信号都为此类信号)D——Digital 数字信号:只有高电平和低电平两种变化(单片机芯片、微控制芯片所能处理的都是数字信号) 下面是模拟信号和连续信号的区别 为什么需要进行模拟信号和数字信号之…

Vue5---

目录 一、学习目标 1.自定义指令 2.插槽 3.综合案例&#xff1a;商品列表 4.路由入门 二、自定义指令 1.指令介绍 2.自定义指令 3.自定义指令的语法 三、自定义指令-指令的值 1.需求 2.语法 3.代码示例 五、插槽-默认插槽 1.作用 2.需求 4.使用插槽的基本语法…

分享| RL-GPT 框架通过慢agent和快agent结合提高AI解决复杂任务的能力-Arxiv

结论 “RL-GPT: Integrating Reinforcement Learning and Code-as-policy” RL-GPT 框架为解决大语言模型在复杂任务处理中的难题提供了创新有效的途径&#xff0c; 旨在将强化学习&#xff08;RL&#xff09;和代码即策略相结合&#xff0c; 以解决大语言模型&#xff08…

Prompt提示词完整案例:让chatGPT成为“书单推荐”的高手

大家好&#xff0c;我是老六哥&#xff0c;我正在共享使用AI提高工作效率的技巧。欢迎关注我&#xff0c;共同提高使用AI的技能&#xff0c;让AI成功你的个人助理。 许多人可能会跟老六哥一样&#xff0c;有过这样的体验&#xff1a;当我们遇到一个能力出众或对事物有独到见解的…

【开源免费】基于SpringBoot+Vue.JS在线考试学习交流网页平台(JAVA毕业设计)

本文项目编号 T 158 &#xff0c;文末自助获取源码 \color{red}{T158&#xff0c;文末自助获取源码} T158&#xff0c;文末自助获取源码 目录 一、系统介绍二、数据库设计三、配套教程3.1 启动教程3.2 讲解视频3.3 二次开发教程 四、功能截图五、文案资料5.1 选题背景5.2 国内…

如何解压rar格式文件?8种方法(Win/Mac/手机/网页端)

RAR 文件是一种常见的压缩文件格式&#xff0c;由尤金・罗谢尔&#xff08;Eugene Roshal&#xff09;开发&#xff0c;因其扩展名 “rar” 而得名。它通过特定算法将一个或多个文件、文件夹进行压缩&#xff0c;大幅减小存储空间&#xff0c;方便数据传输与备份。然而&#xf…

Kafka 副本机制(包含AR、ISR、OSR、HW 和 LEO 介绍)

文章目录 Kafka 副本机制&#xff08;包含AR、ISR、OSR、HW 和 LEO 介绍&#xff09;1. 副本的基本概念2. 副本同步和一致性2.1 AR&#xff08;Assigned Replicas&#xff09;2.2 ISR&#xff08;In-Sync Replicas&#xff09;2.3 OSR&#xff08;Out-of-Sync Replicas&#xf…