2023 emnlp findings
- RAG 召回的辅助信息不总是有用,甚至可能起负作用
-
- 原本对“德牧能不能进机场”这样的问题,ChatGPT是高度认可德牧作为导盲犬的
- 但是检索模块召回了一段“老德牧是一类 balabala 某种狗的争议性名称”的百科介绍作为额外上文输入后,模型返回了no
-
- ——>设计了名为 SKR (Self-Knowledge Guided Retrieval Augmentation)的框架
- 对模型本身已知的问题直接生成答案,对未知的问题才调用 RAG 模块