玩转大模型之五(测试FastGPT高级编排)

news2024/11/25 12:50:58

一、高级编排

FastGPT 从 V4 版本开始采用新的交互方式来构建 AI 应用。使用了 Flow 节点编排(工作流)的方式来实现复杂工作流,提高可玩性和扩展性。但同时也提高了上手的门槛,有一定开发背景的用户使用起来会比较容易。

编排方式跟可视化规则引擎类似,用户只需要拖拽一个个任务节点,然后连线构成一个完整的逻辑处理流程,完成后该应用就可以发布了,到时候对话的时候就会触发这个流程。

下面就详细介绍编排中每个任务节点的作用。

二、模块介绍

1、AI对话

这个模块属于核心模块,使用的时候只需要配置一下模型(config.json里面配置的llmModels),然后可以设置提示词,然后这个节点就可以实现AI模型数据处理了。

2、内容提取

顾名思义,这个模块用来对用户问题进行关键信息提取的,不知道提取啥意思的同学可以网上搜索NLP处理实体提取、事件提取等知识点,这个模块可以从用户的提问中得到你想要的人物、时间、地点、动作等数据项。最后该模块会输出一个json对象到下一个模块。

3、Http请求

它是用来调用三方http服务的,支持post、get、put、delete等方式,一般这个模块需要与前面的内容提取模块搭配使用,这样的话就可以将json格式的数据传递到用户自定义的http接口当中。

4、知识库

可以关联知识库来进行搜索。

5、问题分类

将用户的问题进行关键词提取,根据设定的分类名跳转到不同的分支里面,相当于大家编程里面的if.....elseif....else。

三、实战测试

背景:实现用户问题中关键信息的提取,比如我问一个问题:帮我新增一个待办事项,标题是参加展览,对接人是李孟德,计划日期定在下周三早上9点。我希望程序帮我提取出以下几个字段:动作(新增/修改/删除)、标题、对接人、计划日期,然后将这些提取到的数据通过json格式传递到业务系统的一个http接口,实现待办事项的新增/修改处理。

1、创建一个工作流类型的应用

2、选择任务节点并连线

里面几个重要的模块:

最后,能够实现预期的效果,但是在实际测试过程中发现,模型对于有些时间信息提取错误:

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1967572.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

局域网内远程控制桌面软件推荐

在现代办公环境中,局域网(LAN)内的远程桌面连接已成为提升工作效率和促进团队协作的关键技术之一。无论是需要访问办公室内部服务器,还是在家工作时远程操作公司电脑,局域网内的远程桌面都能满足这一需求。本文将探讨在…

互联网家政小程序,为大众带来高效、便捷的服务

随着人口老龄化的严重和社会生活节奏的加快,大众对家政服务的需求日益增加,家政行业的市场规模逐渐扩大! 在科技的推动下,家政行业开始向数字化发展,“互联网家政”的模式推动了市场的快速发展。互联网家政小程序借助…

安卓Intent

文章目录 Intent新建一个活动显示Intent隐式Intent同多隐式Intent用法向下一个活动传递数据向上一个活动返回数据 Intent Intent是Android程序中各组件之间进行交互的一种重要方式,它不仅可以指明当前组件想要执行的动作,还可以在不同组件之间传递数据。…

EPM 和 EPM-P 系列功率计

EPM 和 EPM-P 系列功率计 是德(KEYSIGHT)简述 EPM 功率计提供了 CW 和平均功率测量功能。EPM-P 功率计提供了峰值、均值、峰值均值比和时间选通功率测量功能。 EPM系列 功率计表 功能特点 EPM 和 EPM-P 系列提供高性能、可编程的功率计,以执行连续波、平均功率和…

Wasm(WebAssembly) 编译环境搭建、浏览器调用

参考:https://www.deanhan.cn/wasm.html 以下以Windows系统 c 语音编译为wasm为例说明: 安装npm访问Node.js官方网站:https://nodejs.org/ 点击“Download”按钮,选择Windows版本(32位或64位)。 下载完成后,运行安装程序。 安装过程中,确保选中了“Add Node.js to …

42 字典创建与删除

字典(dict)是包含 “键:值” 元素的无序可变序列,字典中的每个元素包含用冒号分隔开的 “键” 和 “值” 两部分,表示一种映射或对应关系,也称为关联数组。定义字典时,每个元素的 “键” 和 “值” 之间用冒…

嵌入式C++、ROS 、OpenCV、SLAM 算法和路径规划算法:自主导航的移动机器人流程设计(代码示例)

在当今科技迅速发展的背景下,嵌入式自主移动机器人以其广泛的应用前景和技术挑战吸引了越来越多的研究者和开发者。本文将详细介绍一个嵌入式自主移动机器人项目,涵盖其硬件与软件系统设计、代码实现及项目总结,并提供相关参考文献。 项目概…

云原生系列 - Docker(高级篇)

前言 学习视频:尚硅谷Docker实战教程(docker教程天花板)本内容仅用于个人学习笔记,如有侵扰,联系删学习文档: 云原生系列 - Docker(基础篇)云原生系列 - Docker(高级篇)云原生系列 - Docker搭建私有仓库 云…

PieCloudVector:大模型时代下向量数据库的设计与应用

近几年大语言模型的突破带来自然语言相关的向量数据爆炸式增长,同时为管理这些向量数据而设计的向量数据库的关注度也在不断提高。大语言模型和向量数据库的组合在多个领域都具有广泛的应用,如语义检索、推荐系统、问答机器人等。本文将探讨向量数据库在…

超市是怎样高效完成客流统计与客流分析

随着科技的进步,越来越多的超市开始采用现代化的客流统计系统来优化日常运营和提升顾客体验。本文将探讨超市客流统计面临的难题、客流统计系统的构成及其应用场景,以及系统如何通过高识别率和热力图分析等功能为超市带来实际效益。 一、景区客流统计难题…

应用技术案例:复合机器人在精密制造领域的精准赋能

在精密制造这一对设备精度、稳定性及效率要求近乎苛刻的行业中,复合机器人以其无与伦比的多功能性、极致的灵活性以及精准的操控能力,正在为该领域实现降本增效。以下,我们分享一个富唯智能的复合机器人在精密制造领域的应用案例。 案例背景&…

记一次使用visual studio编译C++项目时无法找到 enum中的某些项

vs 2017 编译一个cocos2dx 的老项目时,报错: 在项目中搜索关键字 ARMATURE_LOOP_COMPLETE,发现在文件EventType.h中是有定义的,是 enum Event 的一项,而且确认了报错的文件已经引入了这个头文件: 于是想检查…

C++ 与其他编程语言区别_C++11/14/17新特性总结

C11 decltype类型推导 decltype不依赖于初始化,根据表达式类推导类型 auto b :根据右边a的初始值来推导出变量的类型,然后将该初始值赋给bdecltype 则是根据a表达式来推导类型,变量的初始值与表达式的值无关表达式类型注意点&…

React组件生命周期

一张图解释 React 类组件生命周期方法 React 类组件的生命周期可以分为三个主要阶段: 挂载(Mounting) 更新(Updating) 卸载(Unmounting) 挂载阶段 在组件实例被创建并插入到 DOM 中时调用…

目标检测 | yolov1 原理和介绍

简介 论文链接:https://arxiv.org/abs/1506.02640 时间:2015年 作者:Joseph Redmon 代码参考:https://github.com/abeardear/pytorch-YOLO-v1 yolo属于one-stage算法,仅仅使用一个CNN网络直接预测不同目标的类别与位置…

Transformer 会彻底改变时间序列预测吗?

欢迎来到雲闪世界。“生成式人工智能革命”的核心是谷歌于 2017 年推出的 Transformer 模型。 但每一次技术革命都会带来混乱。在快速增长的环境中,很难公正地评估创新——更不用说估计其影响了。 开启人工智能这一突破的Transformer模型,如今已成为一…

【Linux】文件描述符 fd

目录 一、C语言文件操作 1.1 fopen和fclose 1.2 fwrite和fread 1.3 C语言中的输入输出流 二、Linux的文件系统调用 2.1 open和文件描述符 2.2 close 2.3 read 2.4 write 三、Linux内核数据结构与文件描述符 一、C语言文件操作 在C语言中我们想要打开一个文件并对其进…

精进日常:每日练习与明智取舍的艺术

目录 题目1.对于非运行时异常,程序中一般可不做处理,由java虚拟机自动进行处理。2.下面哪个关键字可以用于Java的构造方法上?3.以下代码执行的结果显示是多少( )?注解总结 题目 选自牛客网 1.对于非运行时…

GCC编译:静态链接库与动态链接库

! GCC 编译 C(C)静态链接库(gcc -L、gcc -l)和动态链接库(gcc -fPIC -shared)的创建和使用_fpic shared-CSDN博客https://blog.csdn.net/wohu1104/article/details/110789570静态链接库: 在 Linux 发行版…

JDFrame 一款比 Java 8 Stream 更灵活的数据处理工具

一、JDFrame 介绍 在大数据处理领域,Apache Spark以其强大的分布式计算能力和丰富的数据处理API而广受好评。然而,在许多日常的软件开发场景中,我们面临的数据量可能并不需要Spark这样的分布式系统来处理。相反,我们更希望有一种…