1、EM算法

EM算法：期望最大化算法。解决数据缺失情况下的参数估计问题
它是一个基础算法，是HMM等的基础
期望步:E步,最大步M步
步骤：
1，根据已经给出的观测数据，估计出模型参数的值
2，再依据估计出的参数值估计缺失值的值，再根据估计出的缺失数据加上之前已经观测到的数据重新对参数进行估计
3，反复迭代，直到最后收敛，迭代结束

2、EM算法介绍

极大似然估计
极大似然估计取对数的原因：

1. 减少计算量
2. 有利于结果更好的计算
3. 取对数并不影响最后结果的单调性
   
   EM算法基本流程：
   1，初始化参数
   2，计算分布
   3，重新估计参数
   4，重复1-3步，直到参数不会变化为止

3、EM算法实例

1，

2，加入隐变量z后的求解

3，EM初级版

先给一个参数初始值，再根据参数估计值得出观测值，再根据观测者再估计参数，这样不断迭代，直到稳定

4，EM进阶版