使用OneAPI+Ollama+Dify搭建一个兼容OpenAI的API发布及AI应用开发系统(二)客户端设置

news2024/10/3 8:47:52

这一编我们介绍Ollama客户端的设置,那么客户端在这里指的就是你放在家里的Ollama服务器,通过与VPS里安装的OneAPI配合,从而实现了为Ollama生成API访问的服务,并为后端服务器提供安全保障。

一:安装客户端软件

客户端软件的部署请大家自行查找,为使项目可以完成,这里就不再介绍了。

二:客户端安装Ollama

Ollama的安装请参考:

在ubuntu24.04上安装Ollama并设置跨域访问_乌班图执 ollama-CSDN博客

三:在服务器端安装OneAPI

1、OneAPI的安装请参考:

使用OneAPI创建LLM访问API Key-CSDN博客

2、OneAPI使用本地数据库请参考:

Flowise+OneAPI+Ollama搭建本地知识库问答_oneapi ollama-CSDN博客

3、安装Nginx,并为OneAPI设置https访问,请参考以下文件:

使用Nginx反向代理为OneAPI配置https访问-CSDN博客

4、OneAPI的设置关键点

渠道设置时,请将IP写为你设置的客户端VPN分配的IP。

http://10.8.0.2:11434

5、放通防火墙

这里需要放通的有一处:

(1)UFW

sudo ufw allow 11434/tcp

(2)虚拟主机VPS提供商处提供的防火墙无需放通,因为11434端口通过VPN隧道过去了。这也说明了VPN的安全性。

6、生成LLM的访问令牌

复制令牌就可以用啦。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2185893.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ISA-95制造业中企业和控制系统的集成的国际标准-(5)

ISA-95 文章目录 ISA-95ISA-95与工业互联网一、工业互联网在哪里?二、维护自动化金字塔 ISA-95与工业互联网 ISA95作为指导性原则,自动化的阶段构建了以人和业务流程为中心的生产组织方式,极大的提高了生产的效率和灵活性,也满足…

Python 入门--基础语法

目录 1. 注释 2. 字面量 3. 变量 4. 数据类型 5. 字符串扩展 (1). 字符串的三种定义方式 (2). 字符串拼接 (3). 字符串格式化1 (4). 格式化精度控制 (5). 字符串格式化2 (6). 表达式的格式化 6. 数据类型转换 7. 标识符 8. 运算符 9. 数据输入(input语句) 1. …

眼镜识别数据集类别和数量已经在文档中说明,训练集和验证集共2200,g是眼镜,ng是没有眼镜。

眼镜识别数据集 类别和数量已经在文档中说明,训练集和验证集共2200,g是眼镜,ng是没有眼镜。 眼镜识别数据集 (Glasses Detection Dataset) 规模 图像数量:2200张图像(训练集和验证集)。类别:2…

鸢尾花书实践和知识记录[数学要素3-3几何]

书的作者 文章目录 思维导图使用到的函数几何的介绍(略)点线面和定义欧几里得几何原本的公理正多边形代码:如何绘制正多边形 三维的几何体柏拉图立体几何变换 角度和弧度角度弧度正负角(相位)三个角 勾股定理到三角函…

MySQL优化实战 解决CPU100%

问题表象 在24年初有一个日经问题困扰着我们,每到正点03分DB的CPU开始打满,持续1分钟又恢复正常水平。但由于日常业务交付压力较大且权限限制没有登录DB主机的权限,大家也就得过且过一直没有去认真排查。直到某天我来兴趣了也有时间了&#…

【Kubernetes】常见面试题汇总(五十一)

目录 114. K8S 集群服务访问失败(情况一)? 115. K8S 集群服务访问失败(情况二)? 特别说明: 题目 1-68 属于【Kubernetes】的常规概念题,即 “ 汇总(一&#xff…

严重 Zimbra RCE 漏洞遭大规模利用(CVE-2024-45519)

攻击者正在积极利用 CVE-2024-45519,这是一个严重的 Zimbra 漏洞,该漏洞允许他们在易受攻击的安装上执行任意命令。 Proofpoint 的威胁研究人员表示,攻击始于 9 月 28 日,几周前,Zimbra 开发人员发布了针对 CVE-2024-…

TCP/UDP初识

TCP是面向连接的、可靠的、基于字节流的传输层协议。 面向连接:一定是一对一连接,不能像 UDP 协议可以一个主机同时向多个主机发送消息 可靠的:无论的网络链路中出现了怎样的链路变化,TCP 都可以保证一个报文一定能够到达接收端…

Java项目实战II基于Java+Spring Boot+MySQL的甘肃非物质文化网站设计与实现(源码+数据库+文档)

目录 一、前言 二、技术介绍 三、系统实现 四、文档参考 五、核心代码 六、源码获取 全栈码农以及毕业设计实战开发,CSDN平台Java领域新星创作者 一、前言 甘肃省作为中国历史文化名省,拥有丰富的非物质文化遗产资源,涵盖表演艺术、手…

计算机网络期末复习真题(附真题答案)

前言: 本文是笔者在大三学习计网时整理的笔记,哈理工的期末试题范围基本就在此范畴内,就算真题有所更改,也仅为很基础的更改数值,大多跑不出这些题,本文包含简答和计算等大题,简答的内容也可能…

基于SSM的宿舍管理系统 (源码+定制+文档)

博主介绍: ✌我是阿龙,一名专注于Java技术领域的程序员,全网拥有10W粉丝。作为CSDN特邀作者、博客专家、新星计划导师,我在计算机毕业设计开发方面积累了丰富的经验。同时,我也是掘金、华为云、阿里云、InfoQ等平台…

华硕天选笔记本外接音箱没有声音

系列文章目录 文章目录 系列文章目录一.前言二.解决方法第一种方法第二种方法 一.前言 华硕天选笔记本外接音箱没有声音,在插上外接音箱时,系统会自动弹出下图窗口 二.解决方法 第一种方法 在我的电脑上选择 Headphone Speaker Out Headset 这三个选项…

VSCode python代码颜色调整与pycharm对齐

今天开始用VSCode写代码了,因为用服务器比较方便,可是进去一看,代码花花绿绿地完全看不进去,以前用Pycharm的时候就完全没有这种问题,看看人家的颜色格式!(当然也可能是先入为主) 因…

Android SystemUI组件(09)唤醒亮屏 锁屏处理流程

该系列文章总纲链接:专题分纲目录 Android SystemUI组件 本章关键点总结 & 说明: 说明:本章节持续迭代之前章节的思维导图,主要关注左侧上方锁屏分析部分 唤醒亮屏 即可。 Power按键的处理逻辑最终是由PhoneWindowManager来…

Leecode刷题之路第六天之Z字形变换

题目出处 06-Z字形变换 题目描述 个人解法 思路: todo 代码示例:(Java) todo复杂度分析 todo 官方解法 06-Z字形变换官方解法 方法1:利用二维矩阵模拟 思路: 代码示例:(Java&am…

Microsoft 更新 Copilot AI,未來將能使用語音並看到你瀏覽的網頁

不過受到 Recall 事件的影響,更新的推出將更緩慢謹慎。 Microsoft 也同步對其網頁版及行動版的 Copilot AI 進行大改版。這主要是為網頁版換上了一個較為簡單乾淨的介面,並增加了一些新的功能,像是 Copilot Voice 能讓你與 AI 助手進行對話式…

Ansible Playbook原理与实践(Principles and Practice of Ansible Playbook)

💝💝💝欢迎来到我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 本人主要分享计算机核心技…

环绕航线规划软件,适配大疆御3e、M300/350适用大疆机型: 经纬M300 rtk、M350rtk、御3e等行业机,能支持kml,㎞z导入。

环绕航线规划软件,适配大疆御3e、M300/350 适用大疆机型: 经纬M300 rtk、M350rtk、御3e等行业机,能支持kml,㎞z导入。 环绕航线规划软件介绍 名称 环绕航线规划软件 (Orbit Flight Planning Software) 适用机型 大疆经纬 M300 RTK大疆经纬 M350 RTK大疆御 3E 行业机功能特…

【技术详解】SpringMVC框架全面解析:从入门到精通(SpringMVC)

文章目录 【技术详解】SpringMVC框架全面解析:从入门到精通(SpringMVC)SpringMVC概述1. 三层架构与MVC架构区别1.1 三层架构1.2 MVC架构1.3前后端分离开发模式 2. SpringMVC环境搭建2.1 注解启动方式2.2 xml启动方式2.3 SpringMVC PostMan工具使用 3. SpringMVC 请求…