RWKV配上ChatGPTBox让我们在浏览器中感受AI带来的魅力

news2024/11/28 14:15:55

这次我们来讲讲RWKV搭配ChatGPTBox结合使用带来的功能体验,这两个项目都是同一个大神创建的,完全可以无缝搭配进行使用。

以下是我之前在本地部署了AI模型RWKV的教程,如果还没有本地部署过AI的童鞋可以查看我之前发布的教程,在自己的电脑上部署一套AI系统,即使不联网也能够使用,好处多多。

本地化部署AI语言模型RWKV指南,ChatGPT顿时感觉不香了

RWKV-Runner

RWKV-Runner一个一键部署的开源可商用大语言模型工具,能够与ChatGPTBox配合使用

项目地址:

https://github.com/josStorer/RWKV-Runner/

RWKV-Runner服务器配置

我在内网一台闲置服务器作为API服务器,由于没有GPU,所以可以将模型改为CPU-28G-78-CN,模型库需要从Huggingface上重新下载,一般选择后启动服务时会自动提示需要下载模型,我们在弹出的提示信息框中点击下载即可。

  • 模型下载地址
https://huggingface.co/BlinkDL/rwkv-4-raven/resolve/main/RWKV-4-Raven-7B-v12-Eng49%25-Chn49%25-Jpn1%25-Other1%25-20230530-ctx8192.pth

在这里插入图片描述
模型下载完成后点击聊天界面右上角的启动按钮,等到模型加载完毕,状态显示为 运行中 就可以开始进入对话模式了。

在这里插入图片描述
如果需要非本机调用API,记得将 允许外部访问API 功能启用,并且重启启动器及模型。
在这里插入图片描述

ChatGPTBox

ChatGPTBox是一个将ChatGPT整合到浏览器中的一个插件,功能强大。

  • 项目地址
https://github.com/josStorer/chatGPTBox

该项目提供了多种浏览器版本的支持,使用chrome、360、百度、傲游等浏览器的同学可以下载 chromiun.zip 压缩包进行目录安装。

在这里插入图片描述

安装扩展

在Chrome浏览器中,你可以通过以下步骤安装目录中的插件:

  1. 打开Chrome浏览器,点击右上角的菜单按钮(三个竖点)。
  2. 选择“更多工具”选项,然后选择“扩展程序”。
  3. 在扩展程序页面的右上角,打开“开发者模式”。
  4. 点击“加载已解压的扩展程序”。
  5. 在弹出的文件选择对话框中,选择你要安装的插件所在的目录。
  6. 点击“选择文件夹”按钮,Chrome浏览器将自动加载并安装该插件。
  7. 安装完成后,你可以在扩展程序页面中看到该插件的图标。
    请注意,Chrome浏览器只允许安装来自Chrome Web Store的扩展程序。如果你想安装来自其他来源的插件,你需要打开开发者模式,并按照上述步骤手动安装。同时,你需要确保你要安装的插件是安全可靠的,以避免安全问题。

在这里插入图片描述

配置ChatGPTBox

以下是对ChatGPTbox插件功能的具体配置介绍

点击图标进行会话

点击插件图标时默认会弹出设置界面

在这里插入图片描述

当然我们也可以直接打开聊天对话,只要将当图标被点击时选择新建聊天即可,此时点击图标会出现一个漂浮在浏览器页面中的聊天窗口
在这里插入图片描述

显示方式

显示方式还请据自己的需求,在常规页面中进行设置,喜欢哪个选哪个。
在这里插入图片描述

API地址

进入高级 - API地址,修改自定义的OpenAI API地址,如果是本机启动,则输入127.0.0.1:8000,如果修改过端口请注意端口号是否正确。

在这里插入图片描述

  • 同网段服务设置

如果是内网同IP段的RWKV服务器,地址请先获取ip地址。

  • Windows获取ip地址命令
ipconfig

API模式

高级 - API模式 中我们可以将不需要显示的功能勾去掉,勾上自定义模型。当然你如果有Chatgpt的Key或者其他更好的选择,则视情况选择。

在这里插入图片描述

常规设置

常规 页面中API模式选择自定义模型,名称默认为rwkv,我们也可以自己取一个好听的名字,比如小爱同学。

在这里插入图片描述

功能页

设置完成后进入功能页,我们打开独立对话页或独立对话窗口就可以开始对话了。
在这里插入图片描述

使用ChatGPTbox

搜索引擎触发AI

当你在搜索引擎中搜索问题时,搜索栏下方已嵌入了模型对话工具,如果在设置中设置了自动触发,则当你搜索时就会自动与AI进行会话并给相应的的回答。

在这里插入图片描述

如果不需要每个问题都自动触发,则需进入常规 页面中将触发方式修改为手动触发。

在这里插入图片描述
当你在搜索问题后可以点击下方的 询问ChatGPT 按钮来获取AI的答案。

在这里插入图片描述

当然我们也可改为问题以问号结尾时触发,这样就可以通过结尾加上来自动触发。

独立窗口页

在这里插入图片描述

翻译功能

当你在页面中通过鼠标选择英文词语或句子时会弹出一个功能菜单

在这里插入图片描述
翻译时注意把固定按钮给点上,否则鼠标在窗口外点击就会消失。## 标题
在这里插入图片描述
基本内容就介绍到这里了,其他更多内容就等你们来继续挖掘了,希望本文对你的学习带来更多的帮助。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/620314.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

在线聊天项目

人事管理项目-在线聊天 后端接口实现前端实现 在线聊天是一个为了方便HR进行快速沟通提高工作效率而开发的功能,考虑到一个公司中的HR并不多,并发量不大,因此这里直接使用最基本的WebSocket来完成该功能。 后端接口实现 要使用WebSocket&…

【NLP】有限自动机的KMP算法

目录 一、说明 二、无策略直接匹配法 2.1 简单粗暴的无脑匹配: 2.2 跳过外循环的思路 2.3 跳过内循环的思路 2.4 KMP算法时间分析 三、KMP有限状态机 四、结论 一、说明 KMP算法问题:给定一个(短)模式和一个(长&#xff…

PCB材料选择与性能比较

PCB板被广泛应用于电子行业,作为电子设备的重要组成部分之一,负责连接各种电子元件。PCB板的性能直接影响着电子设备的质量和稳定性。而PCB板的材料选择则是影响PCB板性能的关键因素之一。本文将对常见PCB材料进行比较分析,以便于选择适合的材…

西电网课UMOOCs《英美概况》1-15单元课后答案

声明:本文CSDN作者原创投稿文章,未经许可禁止任何形式的转载,原文链接 如果图片挂了,可以移步至我的博客西电网课UMOOCs《英美概况》1-15单元课后答案 - 小木槌 文章目录 Quiz for Unit 1Quiz for Unit 2Quiz for Unit 3Quiz for…

C/C++基础补充

1. NULL和nullptr 有如下代码&#xff1a; void func(int a) {cout << "func(int)" << endl; }void func(int* p) {cout << "func(int*)" << endl; }void test() {func(0); // func(int);func(NULL); // func(int);fun…

带你探索400G光模块测试

随着移动互联网、云计算、大数据等技术快速发展&#xff0c;数据中心及云计算资源需求的爆发式地增长&#xff0c;核心网传输带宽需求大幅度的提升&#xff0c;同时也带动了超大规模云数据中心的发展&#xff0c;对数据中心内部和之间的互联的光模块带宽需求呈快速增长&#xf…

ChatGPT 使用 拓展资料:吴恩达大咖 Building Systems with the ChatGPT API 思维链

ChatGPT 使用 拓展资料:吴恩达大咖 Building Systems with the ChatGPT API 思维链 在本节中,我们将重点讨论要处理输出的任务,这些任务通常通过一系列步骤来获取输入并生成有用的输出。有时,在回答特定问题之前,模型详细推理问题是很重要的。如果你参加了我们之前为开发人…

项目管理软件大对比:2023年15款最佳项目管理工具

简单的项目只需要一个电子表格清单可能就管理好了&#xff0c;而复杂的项目则需要适当的规划、任务分配、设定截止日期&#xff0c;以确保每个人都遵守它们、大家进行紧密的协作&#xff0c;并追踪所花费的时间。 让项目量化、可视化&#xff0c;资源合理分配、更容易的协作和…

x265的DCT

文章目录 DCT相关背景知识DCT变换系数矩阵32x32变换矩阵系数其他尺寸变换矩阵系数 变换计算过程流程图 代码实现数据残差变换系数对应残差 我的简单实现实现细节实现代码 x265对应代码实现openHEVC代码实现 DCT相关背景知识 DCT变换系数矩阵 标准提供了32x32的系数矩阵&#…

Leetcode | 39 组合总和

Leetcode | 39 组合总和 题目 给你一个 无重复元素 的整数数组 candidates 和一个目标整数 target &#xff0c;找出 candidates 中可以使数字和为目标数 target 的 所有 不同组合 &#xff0c;并以列表形式返回。你可以按 任意顺序 返回这些组合。 candidates 中的 同一个 数…

理解 Vue 中的 MVVM 思想

1. 什么是 Vue Vue 是一套用于构建用户界面的渐进式 JavaScript 框架, 与其他大型框架不同的是, Vue 被设计为可以自底向上逐层应用, Vue 的核心库只关心视图层, 方便与第三方库或既有项目整合. 2. JavaScript 框架了解 jQuery : 大家熟悉的 JavaScript 框架, 优点是简化了 D…

VulnHub项目:MONEY HEIST: 1.0.1

靶机地址&#xff1a;Money Heist: 1.0.1 ~ VulnHub 渗透过程&#xff1a; 确定靶机ip&#xff0c;攻击机kali的ip 对靶机进行端口检测 存在22、53、80、3000、3001端口&#xff0c;访问80端口 发现了登录注册按钮&#xff0c;尝试进行注册 注册成功后进行登录&#xff0c…

VulnHub项目:Gaara

项目地址&#xff1a;Gaara: 1 ~ VulnHub 我爱罗&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;火影前200集无敌存在&#xff01;&#xff01;&#xff01; 渗透过程&#xff1a; 收集三件套&#xff01;搞一手~&#xff0c;发现80&#xff0c;访问web&…

第四节 ogre 2.3实现一个简单的模型纹理贴图

本节简单介绍下如何使用Ogre 2.3加载模型&#xff0c;并给模型贴上纹理材质。 一. 安装ogre 2.3 主要有两种安装方法&#xff1a; 简单安装方法&#xff0c;使用scripts for Ogre 2.3 脚本,按照官网给出的步骤安装即可。需要注意的是脚本解压后的 *.bat 文件需要修改下 CMAK…

【Java|golang】2611. 老鼠和奶酪

有两只老鼠和 n 块不同类型的奶酪&#xff0c;每块奶酪都只能被其中一只老鼠吃掉。 下标为 i 处的奶酪被吃掉的得分为&#xff1a; 如果第一只老鼠吃掉&#xff0c;则得分为 reward1[i] 。 如果第二只老鼠吃掉&#xff0c;则得分为 reward2[i] 。 给你一个正整数数组 reward1…

SpringCloud-Gateway过滤器

路由过滤器 GatewayFilter GatewayFilter 是网关中提供的一种过滤器&#xff0c;可以对进入网关的请求和微服务返回的响应做处理。 路由过滤器的作用是什么&#xff1f; 对路由的请求或想象做加工处理&#xff0c;比如添加请求头配置子路由下的过滤器只对当前路由的请求生效…

monkey测试关机/重启问题分析(二)

systemui关机dialog相关 1、systemui下拉关机按钮 通过Android 布局分析工具发现 按钮布局 base/packages/SystemUI/res-keyguard/layout/footer_actions.xml 按钮初始化和点击事件 frameworks/base/packages/SystemUI/src/com/android/systemui/qs/FooterActionsControlle…

斐波那契算法的理解

1.斐波那契数列 &#xff1a; 数组&#xff1a;int[] F{1, 1, 2, 3, 5, 8, 13, 21, 34, 55 }; 特点&#xff1a; 从第三个数开始&#xff0c;后边每一个数都是前两个数的和 。F[k]F[k-1]F[k-2]; 如图所示&#xff1a; ①low、mid、high都是F数组的索引&#xff0c;F[k]-1表示…

基础实验篇 | 课程总体介绍(一)

本讲主要介绍多旋翼的特点及选用多旋翼作为实验平台的原因、对于无人系统教育的一些新需求、RflySim平台对于飞控的底层控制算法的开发优势、本期平台课程的设置、以及如何开发自驾仪系统。 相较于固定翼和直升机&#xff0c;多旋翼具有机械结构简单、 易维护的优点。以四旋翼…

操作Arrays.asList的list报UnsupportedOperationException的坑

Arrays.asList() 将数组转换成List集合 /*** Returns a fixed-size list backed by the specified array. (Changes to* the returned list "write through" to the array.) This method acts* as bridge between array-based and collection-based APIs, in* com…