1,人工神经网络(Artificial Neural Networks,ANNs,连接模型,Connection Model)
- 模仿动物神经网络行为特征(突触联接的结构),进行分布式并行信息处理的算法数学模型。
- 依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。
2,前馈神经网络(Feed-Forward Neural Network)
是一种最简单的神经网络。
1)原理
- 各神经元分层排列。
- 每个神经元只与前一层的神经元相连。接收前一层的输出,并输出给下一层.
- 各层间没有反馈。
2)场景
用于进一步对特征进行非线性变换,规范化和残差连接,有助于提升模型的训练稳定性和效果。
3)基本结构
如下图,以l-1
层的变量输入,进行以w为基础的线性变换,得到下一层l
层的输出。
信息从前一层神经元单向传递到后一层神经元,