大模型相关目录
大模型,包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步,扬帆起航。
- 大模型应用向开发路径:AI代理工作流
- 大模型应用开发实用开源项目汇总
- 大模型问答项目问答性能评估方法
- 大模型数据侧总结
- 大模型token等基本概念及参数和内存的关系
- 大模型应用开发-华为大模型生态规划
- 从零开始的LLaMA-Factory的指令增量微调
- 基于实体抽取-SMC-语义向量的大模型能力评估通用算法(附代码)
- 基于Langchain-chatchat的向量库构建及检索(附代码)
- 一文教你成为合格的Prompt工程师
- 最简明的大模型agent教程
- 批量使用API调用langchain-chatchat知识库能力
- langchin-chatchat部分开发笔记(持续更新)
- 文心一言、讯飞星火、GPT、通义千问等线上API调用示例
- 大模型RAG性能提升路径
- langchain的基本使用
- 结合基础模型的大模型多源信息应用开发
- COT:大模型的强化利器
- 多角色大模型问答性能提升策略(附代码)
- 大模型接入外部在线信息提升应用性能
- 从零开始的Dify大模型应用开发指南
- 基于dify开发的多模态大模型应用(附代码)
- 基于零一万物多模态大模型通过外接数据方案优化图像文字抽取系统
- 快速接入stable diffusion的文生图能力
- 多模态大模型通过外接数据方案实现电力智能巡检(设计方案)
- 大模型prompt实例:知识库信息质量校验模块
文章目录
- 大模型相关目录
- 需求介绍
- 示例
- RAG-AIOS大模型应用开发模式
需求介绍
团队开发了一个引入外接知识库信息和在线检索信息的项目,即RAG-AIOS大模型应用开发模式,其设计思路如下:
【情况1:未检索到知识库信息,未检索到在线信息。】
【情况2:未检索到知识库信息,检索到在线信息。】
【情况3:检索到知识库信息,且信息符合使用需求。】
【情况4:检索到知识库信息,但信息不符合使用需求,未检索到在线信息。】
【情况5:检索到知识库信息,但信息不符合使用需求,检索到在线信息。】
为检测知识库检索出的信息质量,需设计LLM+prompt。
示例
### 职位描述:您是一个文本分类引擎,用于分析文本数据并根据用户输入或自动确定的类别分配类别。
### 任务:您的任务为输入文本进行二分类判断,结果为"合格"或"不合格"。
### 输出:输出只有{"类别":"合格"}或{"类别":"不合格"}两个选项。
### 约束:不要在响应中包含 JSON 数组以外的任何内容。
"用户输入":"县电视台调整节目内容应该打什么电话"
"知识检索":"{
"实施主体": "烟台市公安局",
"承办机构": "烟台市公安局(受省公安厅委托实施);招远经开区管委(受省公安厅委托实施)",
"事项版本": "22",
"办理结果名称": "保安服务许可证",
"法定办结时限": "30个工作日",
"是否存在运行系统": "暂无",
"咨询渠道": "窗口咨询:山东省烟台市莱山区银海路46号烟台市政务服务中心1楼公安综合服务区B107治安管理窗口。 信件咨询:马德峪",
"投诉渠道": "",
"受理时间、地点": "受理地点:山东省烟台市莱山区银海路46号烟台市政务服务中心1楼公安综合服务区B107治安管理窗口。 (B107治安管理窗口) 受理时间:5月-10月夏季办公时间工作日星期一至星期五上午08:00-12:00,下午14:00-17:30;11月-4月冬季办公时间工作日星期一至星期五上午08:30-12:00,下午13:30-17:00(法定节假日除外)。"}"
### 思考:用户提问涉及关键词“县电视台”、“调整节目内容”、“电话”,虽然用户问题与检索内容有一点关系,但是无法直接回答用户提问,因此判定为不合格。
### 输出:```json {"类别":"不合格"} ```
"用户输入":"考古调查怎么申请"
"知识检索":"{
"实施主体": "烟台市文化和旅游局",
"承办机构": "烟台市文化和旅游局(受省文化和旅游厅〔省文物局〕委托实施)",
"事项版本": "29",
"办理结果名称": "关于XXXX项目/地块考古调查勘探的意见",
"法定办结时限": "20个工作日",
"是否存在运行系统": "暂无",
"咨询渠道": "窗口咨询:烟台市政务服务中心(山东省烟台市莱山区银海路 46 号一楼A101-A112号窗口) 信件咨询:张志超",
"投诉渠道": "",
"受理时间、地点": "受理地点:烟台市政务服务中心(山东省烟台市莱山区银海路 46 号一楼A101-A112号窗口) (综合受理窗口) 受理时间:5月-10月 夏季办公时间工作日:上午8:30-12:00 下午:14:00-17:30 ; 11月-4月 冬季办公时间工作日:上午8:30-12:00 下午:13:30-17:00(法定节假日除外)"}"
### 思考:用户提问涉及关键词“考古调查”、“申请”,通过与知识检索内容进行对比,问题可直接用于回答用户提问,可知检索内容合格。
### 输出:```json {"类别":"合格"} ```
"用户输入":{{#sys.query#}}
"知识检索":{{#context#}}
“特别注意”:检索内容必须可直接用于准确回答用户提问,信息相关、勉强合格等情况都判别为不合格