循环神经网络RNN
- 序列建模
- 自回归模型
- 隐变量自回归模型
- 文本数据预处理
- 循环神经网络
- 随时间反向传播
- 循环神经网络代码实现
- RNN的长期依赖问题
序列建模
序列数据-时间
不同时间上收集到的数据,描述现象随时间变化的情况
时间序列分析是指从时间排列的数据点中抽取有价值的总结和统计信息的行为,既包含对过去数据的诊断,也包含对未来数据的预测
序列数据-文本:
由一串有序的文本组成的序列
将文本分词,然后给每个词表示成向量
主要解决的问题:
自然语言理解·
文献分类
情感分类
问答系统
分词(tokenization)
序列数据-图像
有序图像组成的序列,后一帧图像可能会受前一帧的影响
序列模型
Sequence Model: 用于处理和预测序列数据的模型
最经典的序列模型——
自回归模型
因为是x预测x自己不是预测y,所以是自回归