背景
公司已经做了一段时间的大模型,每次测试或者回归的时候都需要针对问答进行测试回归,耗费大量的时间与精力,因此结合产品特点,开发自动化脚本替代人工的操作,提升测试回归效率
设计
使用python+request+Excel进行设计。
Excel为用例层。整体设计框架如下:
关键功能
- 基于excel文件读取问题并对mql进行判断处理
- 对不通过问答进行标记输出,加快排查与测试回归定位问题
Excel模板如下:
实现逻辑
因为接口返回的是很长的一段内容,并且非标准格式,需要对其进行转码与提取。因此此处实现了两个方法:
以提取需要的mql。(此处的mql是我们后续进行断言的关键)
目前针对不通过的用法,先粗暴的进行标红处理,也是以一个方法来实现:
针对获取mql失败的用例,会给出错误提示,并且把Excel表中对应的框框标红,方便快速排查。
最终可以实现大数据量问法的快速回归。
后期实现想法
- 接入pytest模块,使用pytest来控制用例的实现
- 增加多轮、拒答等逻辑的实现
- 接入Jenkins,实现CICD