如今人工智能发展的时代，机器学习有着不可或缺的地位，而其中最为突出的模型该属于神经网络。从提出神经网络开始，历经感知机、人工神经网络、BP神经网络、进化神经网络、卷积神经网络、图神经网络等，不断的深入到众多的研究领域中，比如利用神经网络训练参数、图像识别、文本处理、图像分割、分类预测、特征提取、语音识别等，在每一个领域都发挥着它的作用。

本文主要介绍BP神经网络，至于卷积神经网络感兴趣的可以看看动手学习深度学习中的内容。

一、神经网络模型结构

BP神经网络包含输入层、隐含层、输出层三部分，看似简单的三层结构却能解决很多问题，图一为神经网络的模型图：

其中为输入神经元，