Rasa:使用大语言模型进行意图分类
在Rasa的最新版本(3.x)中,引入了一种新的意图分类方法,即使用大型语言模型(LLM)和一种称为检索增强生成(RAG)的方法进行意图分类。
LLM意图分类器是一种全新的意图分类器,利用大型语言模型(LLM)来对意图进行分类。LLM意图分类器依赖于检索增强生成(RAG)方法,结合了基于检索和生成的方法的优点。
LLM意图分类器的步骤描述如下:
- 在训练过程中,分类器将所有意图示例进行嵌入,并将它们的嵌入存储在向量存储库中。
- 在预测过程中,分类器将当前消息进行嵌入,并使用嵌入在向量存储库中找到相似的意图示例。
- 检索到的示例根据与当前消息的相似度进行排名,其中最相似的示例将包含在LLM提示中。该提示指导LLM预测消息的意图。
- LLM预测一个意图标签。
- 生成的标签被映射到域中的一个意图。LLM还可以预测不在训练数据中的标签。在这种情况下,将预测与其嵌入最相似的域中的意图。
要在的机器人中使用基于LLM的意图分类器,需要在config.yml文件中添加LLMIntentClassifier。
config.yml
pipeline:
# - ...