一、高级编排
FastGPT 从 V4 版本开始采用新的交互方式来构建 AI 应用。使用了 Flow 节点编排(工作流)的方式来实现复杂工作流,提高可玩性和扩展性。但同时也提高了上手的门槛,有一定开发背景的用户使用起来会比较容易。
编排方式跟可视化规则引擎类似,用户只需要拖拽一个个任务节点,然后连线构成一个完整的逻辑处理流程,完成后该应用就可以发布了,到时候对话的时候就会触发这个流程。
下面就详细介绍编排中每个任务节点的作用。
二、模块介绍
1、AI对话
这个模块属于核心模块,使用的时候只需要配置一下模型(config.json里面配置的llmModels),然后可以设置提示词,然后这个节点就可以实现AI模型数据处理了。
2、内容提取
顾名思义,这个模块用来对用户问题进行关键信息提取的,不知道提取啥意思的同学可以网上搜索NLP处理实体提取、事件提取等知识点,这个模块可以从用户的提问中得到你想要的人物、时间、地点、动作等数据项。最后该模块会输出一个json对象到下一个模块。
3、Http请求
它是用来调用三方http服务的,支持post、get、put、delete等方式,一般这个模块需要与前面的内容提取模块搭配使用,这样的话就可以将json格式的数据传递到用户自定义的http接口当中。
4、知识库
可以关联知识库来进行搜索。
5、问题分类
将用户的问题进行关键词提取,根据设定的分类名跳转到不同的分支里面,相当于大家编程里面的if.....elseif....else。
三、实战测试
背景:实现用户问题中关键信息的提取,比如我问一个问题:帮我新增一个待办事项,标题是参加展览,对接人是李孟德,计划日期定在下周三早上9点。我希望程序帮我提取出以下几个字段:动作(新增/修改/删除)、标题、对接人、计划日期,然后将这些提取到的数据通过json格式传递到业务系统的一个http接口,实现待办事项的新增/修改处理。
1、创建一个工作流类型的应用
2、选择任务节点并连线
里面几个重要的模块:
最后,能够实现预期的效果,但是在实际测试过程中发现,模型对于有些时间信息提取错误: