目录
一：神经网络调优
1.算法层面：
2.网络层面
二：调参技巧：
2.合理的参数设置：
3.运行：
三：批标准化（Batch Normalizetion）
1.批标准化公式：
2.过程图：
3.为什么标准化能够是优化过程变得简单：
一：神经网络调优
参数调优也称为超参数调优
1.算法层面：
学习率
，
：Adam优化算法的超参数，常设为0.9，0.999，10^(-8)
：正则化网络参数
2.网络层面
hidden units：个隐藏层神经元个数
layers：神经网络层数
二：调参技巧：
对于调参，通常跟机器学习中介绍的网格搜索一致，让所有的参数可能组和在一起，得到N组结果。然后去测试每一组的效果去选择
比如现在由两个参数：a：0.1，0.01，0.001。
b：0.8，0.88，0.9
这样会由9种组合：[0.1,0.8], [0.1,0.88], [0.1,0.9]......
2.合理的参数设置：
学习率：0.0001，0.001，0.01，0.1，跨度稍微大一点
算法
