声明：本文为原创，未经同意请勿转载，感谢配合😄

chatGPT今年年初的时候是非常火爆的，现在也有很多相关的应用和插件。当然现在也有很多新的技术出现，比如autoGPT，它实际上就是嵌套chatGPT。所以这里笔者我希望通过通俗易懂的语言描述一下chatGPT的原理。当然这里笔者是根据自己看的知识进行快速的印象中的总结，如果有不对的地方，非常欢迎指正，也欢迎大家互相学习与交流。

从GPT名字理解chatGPT

chatGPT它是基于GPT3的。GPT也就是Generative Pre-training Transformer模型。从名字上来看，其实也可以知道GPT模型其实有三个核心点：

• 一个是Generative生成式，也就是说GPT它其实是一个生成模型，而且这个生成模型它是基于NLP领域的，所以chatGPT就可以看成一个文字接龙的生成式模型（从外观上看，像前端的流式输出）。
• 第二个是Pre-train预训练，也就是说GPT是一个基于预训练微调的模型，而且GPT是基于大语言模型（LLM）的，因为需要有足够多的数据才能保证更好的语义理解和上文理解。
• 第三个是Trasformer，也就是说GPT模型都使用了Transformer的架构，这就意味着它们有一个编码器来处理输入的会话信息和一个解码器来生成输出的会话信息。编码器和解码器都是基于多头自注意力机制来实现的，这样子可以使模型关注会话中的不同部分，从而来推断出会话本身的含义和上下文。因为句子中不同词的重要性是不一样的。除此之外，GPT的编码器来利用了掩码来进一步构建训练的数据集，这样子其实就像挖词填空，更加有利于模型学习文字跟文字的关系，更有利于文字接龙的准确性。
  如果对Transformer不是很理解，可以看我的另外一篇博客《从前端角度快速理解Transformer》。

chatGPT三步曲

因为chatGPT是基于GPT的嘛，所以它的原理其实跟GPT是有些类似的，但它引入评分反馈的训练机制来进行强化学习【人类反馈强化学习RLHF】。主要实现的流程也一样是三部曲：

• 第 1 步：监督微调 (SFT) 模型，利用海量的问答式样本数据集对GPT3模型的输出方向进行监督训练，引导GPT3采用问答对话的形式进行内容输出。通过微调策略得到GPT-3.5模型。
• 第 2 步：训练一个奖励模型（RM）。训练一个奖励模型对GPT-3.5模型的输出进行一个排序评分，就相当于一个老师，当给出一个问题和四个答案，老师负责按照人类的偏好给这些答案进行打分，将答案进行排序。所以这里的设计跟以往的模型不太一样，因为这里是对输出结果进行排序而不是取值或者取分布。【这里也是有监督数据集的】
• 第 3 步：利用强化学习最大化奖励。基于上面的两步，就可以拥有一个具备对话的GPT和一个能够按照人类偏好进行打分的奖励模型，因此到这里我们就可以利用强化学习来进行一步的自我训练，从而最大化第二步里面的评分。
  

通过上面的训练就可以得到最后的chatGPT模型。