文章目录
- 1 深度神经网络(DNN)
-
- 1.1 DNN简介
- 1.2 DNN基本结构
- 2 模拟应用
-
- 2.1 构建模型
- 2.2 训练模型
- 2.3 模型预测
- 3 鸢尾花数据集
-
- 3.1 加载数据
- 3.2 构建模型
- 3.3 训练模型
- 3.4 模型预测
- 4 问题及解决
- 5 参考附录
1 深度神经网络(DNN)
1.1 DNN简介
背景:深度神经网络(DNN)也叫多层感知机,是最普遍的深度学习算法,发明之初由于算力瓶颈而饱受质疑,直到近些年算力、数据的爆发才迎来突破。
模型原理:
它是一种包含多个隐藏层的神经网络。
每一层都将其输入传递给下一层,并使用非线性激活函数来引入学习的非线性特性。
通过组合这些非线性变换,DNN能够学习输入数据的复杂特征表示。
模型训练:
使用反向传播算法和梯度下降优化算法来更新权重。
在训练过程中,通过计算损失函数关于权重的梯度,然后使用梯度下降或其他优化算法来更新权重,以最小化损失函数。
优点:
能够学习输入数据的复杂特征,并捕获非线性关系。
具有强大的特征学习和表示能力。
缺点:
随着网络深度的增加,梯度消失问题变