RNN及其变体
    RNN模型定义
        循环神经网络:一般接受的一序列进行输入,输出也是一个序列
        作用和应用场景:
RNN擅长处理连续语言文本,机器翻译,文本生成,文本分类,摘要生成
        RNN模型的分类
根据输入与输出结构
N Vs N  : 输入和输出等长,应用场景:对联生成;词性标注;NER
N Vs 1   : 输入N,输出为单值,应用场景:文本分类
1 Vs  N  : 输出是一个,输出为N,应用场景: 图片文本生成
N Vs M  : 输入和输出不等长,应用场景: 文本翻译,摘要总结
        根据RNN内部结构
传统RNN
LSTM
BI-LSTM
GRU
BI-GRU
            传统RNN模型
内部结构
       输入:当前时间步xt和上一时间步输出的ht - 1
       输出:ht和ot(一个时间步内: ht = ot)
    LSTM模型
        内部结构
遗忘门
输入门
细胞状态
输出门
        BI-LSTM模型
            
        BI_LSTM定义:
不改变原始的lSTM模型内部结构,只是将文本从左到右计算一遍,再从右到左计算一遍,把最终的输出结果拼接得到模型的完整输出

LSTM模型
    内部结构
遗忘门
输入门
细胞状态
输出门
    BI-LSTM模型
        
    BI_LSTM定义:
不改变原始的lSTM模型内部结构,只是将文本从左到右计算一遍,再从右到左计算一遍,把最终的输出结果拼接得到模型的完整输出