FastGPT | 3分钟构建属于自己的AI智能助手

news2024/11/26 12:41:56

这是一篇使用指南!!!

FastGPT是什么?

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

fastgpt其实就是使用了chatgpt的api(或者其他的大模型),构建自己的AI知识库

chatgpt是没办法获取到你自己的信息的

如果你想部署属于自己的gpt,或者是公司内部使用的

你可以选择fastgpt

适用人群:

  • chatgpt爱好者
  • chatgpt深度使用者
  • 想要构建自己的AI知识库
  • 想要给其他人提供gpt服务
  • 公司/组织 私有化

功能介绍

目前我觉得比较好用的3个功能

构建自己的知识库

通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。 alt

数据预处理

提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径,其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割,节省手动训练时间,提升效能。 alt

高级编排

基于 Flow 模块的工作流编排,可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等

不过这个功能比较复杂,需要一定的学习成本

alt

在线使用

  • 🌐 国内版:ai.fastgpt.in
  • 🌍 海外版:fastgpt.run

环境需要

  • 系统:windows or linux
  • docker环境
  • chatgpt账号,并有api

项目仓库地址

https://github.com/labring/FastGPT

安装指南

安装指引

  1. 获取API keys
  2. 在sealos上搭建nginx
  3. 安装fastgpt
获取API keys

这个很简单

打开网址:https://platform.openai.com/account/api-keys

登录你的gpt账号 (你得会魔法)

创建一个keys即可

alt
搭建nginx

这里是在sealos上搭建的nginx,因为sealos是国外服务器,可以直接代理openai

不过它是收费的

搭建nginx的话,一天大概2毛钱

初次注册送5块钱

当然你也可以用其他方式

我们来开始搭建nginx

使用 Sealos 部署 Nginx 实现中转

登录 Sealos

Sealos

创建应用

打开 「应用管理」,点击「新建应用」:

alt
alt
填写基本配置

务必开启外网访问,复制外网访问提供的地址。

alt
添加配置文件
  1. 复制下面这段配置文件,注意 server_name 后面的内容替换成第二步的外网访问地址。

    user nginx;
    worker_processes auto;
    worker_rlimit_nofile 51200;

    events {
        worker_connections 1024;
    }

    http {
        resolver 8.8.8.8;
        proxy_ssl_server_name on;

        access_log off;
        server_names_hash_bucket_size 512;
        client_header_buffer_size 64k;
        large_client_header_buffers 4 64k;
        client_max_body_size 50M;

        proxy_connect_timeout       240s;
        proxy_read_timeout          240s;
        proxy_buffer_size 128k;
        proxy_buffers 4 256k;

        server {
            listen 80;
            server_name tgohwtdlrmer.cloud.sealos.io; # 这个地方替换成 Sealos 提供的外网地址

            location ~ /openai/(.*) {
                proxy_pass https://api.openai.com/$1$is_args$args;
                proxy_set_header Host api.openai.com;
                proxy_set_header X-Real-IP $remote_addr;
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                # 如果响应是流式的
                proxy_set_header Connection '';
                proxy_http_version 1.1;
                chunked_transfer_encoding off;
                proxy_buffering off;
                proxy_cache off;
                # 如果响应是一般的
                proxy_buffer_size 128k;
                proxy_buffers 4 256k;
                proxy_busy_buffers_size 256k;
            }
        }
    }
  2. 点开高级配置。

  3. 点击「新增配置文件」。

  4. 文件名写: /etc/nginx/nginx.conf

  5. 文件值为刚刚复制的那段代码。

  6. 点击确认。

    alt
部署应用

填写完毕后,点击右上角的「部署」,即可完成部署。

修改 FastGPT 环境变量
  1. 进入刚刚部署应用的详情,复制外网地址

    注意:这是个 API 地址,点击打开是无效的。如需验证,可以访问: *.cloud.sealos.io/openai/api,如果提示 Invalid URL (GET /api) 则代表成功。

  2. 修改环境变量(是 FastGPT 的环境变量,不是 Sealos 的):

   OPENAI_BASE_URL=https://tgohwtdlrmer.cloud.sealos.io/openai/v1

Done!

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1177717.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

DASCTF X CBCTF 2023|无畏者先行

前言 笔者没有参加此次比赛,由于团队后面会复现此次比赛,所以笔者在此进行复现记录。 EASYBOX 考点:命令执行? 栈溢出 附件给了 docker 环境,可以直接在本地复现,但是 docker 我不会调试,幸…

视频号提取视频工具,使用教程合集

第一步: 点击关注公众号下方菜单,视频下载-【视频号提取视频工具】,长按识别二维码,添加视频下载小助手为好友。 没有关注的可以,点击下载关注一下 第二步: 选择你要下载的视频,找到转发图标…

AD教程 (八)器件的复制和对齐

AD教程 (八)器件的复制和对齐 设置原理图工作区域 设置Sheet Size,将A4改为A3,增大原理图区域 按照原理图布局大致排布元件 框选需要复制的元件,按住Shift即可复制元件并拖动到合适的位置。如果元件需要对齐&#xf…

JUC-3-并发锁

一 JAVA 多线程锁介绍 1 悲观锁 定义:悲观锁指对数据被外界修改持保守态度,认为数据很容易就会被其他线程修改(很悲观),所以在数据被处理前先对数据进行加锁,并在整个数据处理过程中,使数据处…

seata事务回滚引起的skywalking数据库存储空间剧增的问题排查

基本信息 产品名称:ATS3.0 问题分类:编码问题 环境类型:环境无关 问题现象 11月1日上午华润DBA收到数据库磁盘空间告警,检查后发现skywalking连接的mysql数据库占用空间从之前一直是比较稳定的,但是10月31日…

ElasticSearch与Lucene是什么关系?Lucene又是什么?

一. ElasticSearch 与 Lucene 的关系 Elasticsearch(ES)和Apache Lucene之间有密切的关系,可以总结如下: Elasticsearch构建于Lucene之上:Elasticsearch实际上是一个分布式的、实时的搜索和分析引擎,它构建…

二维码智慧门牌管理系统全新升级:个性化配置,智能管理,让你的社区更安全!

文章目录 前言一、个性化配置功能的升级二、智能化管理和便捷性 前言 随着科技的飞速发展,智能化管理已经成为各个领域的标配。在社区管理方面,智能化的优势在便捷性、高效性和安全性方面得到了广泛认可。最近,二维码智慧门牌管理系统经过全…

【文献分享】NASA JPL团队CoSTAR一大力作:直接激光雷达里程计:利用密集点云快速定位

论文题目:Direct LiDAR Odometry: Fast Localization With Dense Point Clouds 中文题目:直接激光雷达里程计:利用密集点云快速定位 作者:Kenny Chen, Brett T.Lopez, Ali-akbar Agha-mohammadi 论文链接:https://arxiv.org/pd…

如何使用Plex在Windows系统上搭建一个全能私人媒体影音站点

文章目录 1.前言2. Plex网站搭建2.1 Plex下载和安装2.2 Plex网页测试2.3 cpolar的安装和注册 3. 本地网页发布3.1 Cpolar云端设置3.2 Cpolar本地设置 4. 公网访问测试5. 结语 1.前言 用手机或者平板电脑看视频,已经算是生活中稀松平常的场景了,特别是各…

WebSocket Day03 : SpringMVC整合WebSocket

前言 在现代Web应用程序中,实时性和即时通信变得越来越重要。传统的HTTP请求-响应模式无法满足实时数据传输和双向通信的需求。随着技术的发展,WebSocket成为了一种强大而灵活的解决方案。 WebSocket是HTML5提供的一种新的通信协议,它通过一…

基于蛇优化算法的无人机航迹规划-附代码

基于蛇优化算法的无人机航迹规划 文章目录 基于蛇优化算法的无人机航迹规划1.蛇优化搜索算法2.无人机飞行环境建模3.无人机航迹规划建模4.实验结果4.1地图创建4.2 航迹规划 5.参考文献6.Matlab代码 摘要:本文主要介绍利用蛇优化算法来优化无人机航迹规划。 1.蛇优化…

在jupyter中使用R

如果想在Jupyter Notebook中使用R语言,以下几个步骤操作可行: 1、启动Anaconda Prompt 2、进入R的安装位置,切换到R的安装位置:D:\Program Files\R\R-3.4.3\bin,启动R,具体代码操作步骤如下,在…

noip模拟赛多校第八场 T4 不要翻墙 (矩阵乘法优化DP, 动态DP)

题目描述 简要题意:太长了,就不总结了,自己看吧。 分析 我们首先考虑 m 1 m 1 m1 的情况: T > 0 T > 0 T>0 时,显然我们可以 O ( n ) O(n) O(n) 的维护一个 前缀积 和 前缀积的逆元&#xff0c…

基于鹈鹕算法的无人机航迹规划-附代码

基于鹈鹕算法的无人机航迹规划 文章目录 基于鹈鹕算法的无人机航迹规划1.鹈鹕搜索算法2.无人机飞行环境建模3.无人机航迹规划建模4.实验结果4.1地图创建4.2 航迹规划 5.参考文献6.Matlab代码 摘要:本文主要介绍利用鹈鹕算法来优化无人机航迹规划。 1.鹈鹕搜索算法 …

x86汇编代码学习-计算机工作原理1

文章目录 前言1.CPU架构2.8086寄存器3. 指令流水线4.内存模型5.总线6.硬盘7 计算机启动过程BIOS8.BootLoader9.地址映射10.为什么boot loader要放在0x7c00这个位置?11 显卡是如何显示的12.汇编指令1.环境搭建 12 程序13 x86 汇编指令介绍 前言 x86汇编 详解x86汇编…

虚拟机联网 | 虚拟机连接Xshell

目录 一,打开网络虚拟编辑器二,打开网络设置三,最终设置四,测试有没有连上网五,测试连接工具Xshell 一,打开网络虚拟编辑器 1. 点击"编辑",打开"虚拟网络编译器" 2. 选择更…

SHEIN要求卖家完成德国EPR合规,逾期将强制下架——站斧浏览器

EPR是卖家在欧盟自由销售的通行证之一,如果没有,是不允许在欧盟国家销售产品的。 近期根据SHEIN官方邮件通知,卖家需要在收到邮件后5天内完成申报,逾期申报产品将会在德国站点下架。 因此,建议卖家尽快通过合规的服务…

第八章《搞懂算法:逻辑回归是怎么回事》笔记

8.1 如何理解逻辑回归 逻辑回归根据给定的自变量数据集来估计事件的发生概率,由于结果是一个概率,因此因变量的范围在 0 和 1 之间。 逻辑回归的与线性回归一样,也是以线性函数为基础的;而与线性回归不同的是,逻辑回…

智能安全配电装置在银行配电系统中的应用

【摘要】银行是国家重点安全保护部分,关系到社会资金的稳定,也是消防重点单位,消防安全保障工作是银行工作的重要方面。智能安全配电装置应用在银行配电系统中,可以提升银行智能化管控水平和有效防范电气火灾的发生。 【关键词】…

【QT】QT自定义C++类

在使用Qt的ui设计时,Qt为我们提供了标准的类,但是在很多复杂工程中,标准的类并不能满足所有的需求,这时就需要我们自定义C类。 下面以自定义的QPushButton作一个很简单的例子。 先新建默认Qt Widgets Application项目 一、自定义…