往期文章:
- AI智能客服项目拆解(1) 产品大纲
在上一篇文章中,我们详细介绍了AI智能客服的基本概念、需求分析、产品形态及分类,以及AI在线客服的用户体验流程和系统架构。为了更深入地理解AI智能客服的内在工作机制和技术实现,本文将作为系列文章的第二篇,专注于剖析某AI智能客服产品的具体技术细节。
本文将探讨以下关键点:
- 知识库构建与管理:介绍如何构建和维护知识库,以及它是如何支持智能客服提供个性化和准确的服务的。
- 智能助手定制过程:智能助手的训练过程,包括数据收集、助手定制、评估和优化等。
Chatto简介
Chato是一款智能对话AI助手平台,可以帮助企业快速定制独特个性和超强能力的专属AI助手,将AI助手运用到多种对外的应用和使用场景。某知名电商平台,他们使用ChatoAI助手作为客服智能助手,帮助用户解答问题、提供售后服务、进行投诉处理等等。通过ChatoAI助手的智能问答技术,用户可以快速获取到所需的信息和服务,提高了用户的满意度和忠诚度。同时,AI助手还可以根据用户的历史记录和行为进行智能推荐和个性化服务,提高了用户的购物体验和转化率。
Chatto如何实现定制化
- 角色设定: 给AI设定一个基础角色,可以是
客服、销售、培训师、营销人员、行业专家等,让AI助手更符合您的业务形象。 - 上传文档并建立知识库: 通过录入文档或问答来创建知识库,让AI助手学习,根据AI助手训练情况,可随时删除或替换文档。
- 为答案提供来源: AI助手的答案可附带文档来源,回答有理有据,训练效果满意后再发布。
- 多终端发布渠道: 满足多种业务场景,为您服务各渠道客户。包括网页、微信群、JS 嵌入网页、接入API,更多发布形式持续升级中。
Chatto助手的工作原理
Chatto助手的设定主要包括角色与知识库的设定,角色设定是为了让AI助手能够按照描述的要求以一定的规则进行回答,知识库的设定是为了让AI助手能够学习企业的业务知识,从而能够更加准确的回答用户关于企业业务的问题。
下面让我们拆解一下其中的原理。这是经典的RAG系统的流程:
结合RAG系统的框架图,不难看出:
角色设定的技术内涵是设定一段系统提示词
,当用户输入问题时,Chatto便将设定的系统提示词与用户输入的问题组合成messages
发送到GPT模型中,最终获得回答。
知识库便是RAG系统中的Documents和Indexing部分,当用户问题无法通过GPT模型回答时,Chatto便会从知识库中根据用用户输入相关的问题,从知识库中检索相关的文档,并与系统提示词和用户问题组合成messages
发送到GPT模型中,最终获得回答。
Chatto的知识库管理
Chatto的知识库管理主要包括数据的录入与更新两部分。录入是为了让助手能够学习企业的私有数据,更新是为了优化助手的回答效果或者根据业务需求进行调整。
数据录入
其中数据的录入分为两种方式:问答集和文档集。
问题的录入有两种形式,可以手动输入也可以批量上传。
手动输入
批量上传
文档集的录入有多种方式,包括上传文档、输入文本、网页抓取、公众号抓取等。
问答集有助于Chatto学习客服回复的口吻,常见问题的回答方式,以及客户的问题类型。文档集则有助于Chatto学习企业的业务知识,从而能够更加准确的回答用户关于企业业务的问题。 无论那种方式,录入的数据都会预处理成为不同的段落,最后落入到向量数据库
中,以便Chatto能够快速检索。
涉及到的技术主要是RAG,这其中包含:数据预处理、文本向量化、文本相似度计算等、文本检索等。 可以通过LlamaIndex或者langchain document loaders快速实现。
如果追求更多的数据源的接入,可以尝试airbyte,airbyte提供300种以上的数据源接入,可以接入大多数的数据源。
数据更新
Chatto提供助手预览功能,可以测试助手的回答效果,根据实际情况调整问答集。
在点击右侧修正按钮后,将会进入到单条问题的录入模块,会把问题和助手的回复自动带上,进过修改后,相当于上传了一条新的问答文档。
然而这种方式,人工成本较高,需要人工逐条修改,如果数据量较大,可以考虑使用自动测评系统,及时发现不能回答的问题,然后进行人工修改。
结语
以上便是本文内容,主要涵盖了智能助手定制过程与知识库管理。下期我们深入到RAG系统中,拆解下RAG系统的原理,以及大模型是如何根据知识库中的文档进行检索和问答的。