前馈神经网络(Feedforward Neural Network)是一种最基本的人工神经网络结构,它由多个层次的神经元组成,这些神经元间具有相互连接的权重。数据从输入层进入,然后逐层传播,最后到达输出层。在这个过程中,信息只在一个方向上流动,从输入层到输出层,没有反馈回路。下面是一个具体的例子:
假设我们要使用前馈神经网络来识别手写数字(0-9)。在这个任务中,输入是手写数字的图像像素值,输出是一个包含10个元素的概率向量,每个元素对应一个数字的概率。
1. 输入层:输入层的神经元数量等于输入数据的维度。在这个例子中,假设手写数字图像大小为28x28像素,因此输入层有28x28=784个神经元,每个神经元对应一个像素值。
2. 隐藏层:在输入层和输出层之间,可以有一个或多个隐藏层。隐藏层的神经元数量和激活函数可以自由选择。例如,我们可以设计一个具有两个隐藏层的网络,其中第一个隐藏层具有128个神经元,第二个隐藏层具有64个神经元。隐藏层的激活函数可以是ReLU、tanh等。
3. 输出层:输出层的神经元数量等于目标类别的数量。在这个例子中,有10个数字,因此输出层有10个神经元。为了得到概率分布,输出层的激活函数通常选择softmax。
当输入图像经过这个前馈神经网络时,信息从输入层开始流动,通过隐藏层,最后到达输出层。在每一层,神经元将其输入与权重相乘,加上偏置,然后应用激活函数。这个过程一直持续到输出层,最终得到一个概率向量,表示每个数字的预测概率。注意,这个过程中没有反馈或循环连接,因此称为前馈神经网络。