x.1 课程目录
为了开始我们的学习,我们会先列出我们的课程目录,诸如以下,
x.2 NN的发展
NN一开始是为了模仿人类大脑,但随着时间的演进,逐渐被使用在各种应用之中,
深度学习DL为何最近几年突飞猛进呢,这来源于数据和硬件,Big Data + GPU。
x.3 神经网络构造
接下来我们以购买衣服为例来讲述神经网络架构,假设我们的第二层有诸如afford ablility这个因素,从直觉上讲,我们觉得这个值是有price - a
和shipping cost - a
这两个因素构成的,那我们就将p-a和s-a构成两个神经元(由输出值和激活函数组成),这个神经元是不是很类似于生物学中的神经元,以此类推,我们会形成一个更加深层的网络,如下,
但是往往我们可能会有很多features,而我们并不知道哪些features是有用的,所以在这里我们将采用全连接的形式将所有的input layer中的元素来和hidden layer中的元素连接,这就构成了全连接层。为了加速计算,我们会将所有的输入输出全部向量化,于是每一层传递的实际上是一个向量,如下所示,
在这里回忆一下前几节讲的feature engineering特征工程,我们会根据输入的特征来重建我们所需要的features,所以神经网络相当于重塑了特征工程和特征筛选的功能,
关于NAS神经网络的架构,我们需要知道的是根据数据的不同,我们可能需要选取不同隐藏层的MLP(multilayer perceptron),而这个选择是根据数据驱使来选取的,
x.4 以人脸识别为例
在数字媒体中,对于一张图片,电脑看到的图像往往是如下的一串f(x, y),
我们通过神经网络学习,发现随着网络层数的加深,网络更容易看到整体的信息,即如下的信息,