什么是深度学习?
一、深度学习–神经网络简介
深度学习(Deep Learning)(也称为深度结构学习【Deep Structured Learning】、层次学习【Hierachical Learning】或者 深度机器学习【Deep Machine Learning】)是一类算法集合,是机器学习的一个分支。
深度学习方法近些年,在会话识别、图像识别和对象侦测领域表现出了惊人的准确性。
但是,“深度学习”,它是在1986年由Dechter在机器学习领域提出,然后再2000年由Aizenberg等人引入到人工神经网络中,而现在,由于Alex Krizhevsky在2012年使用卷积网络结构赢得了ImageNet比赛之后受到大家的瞩目。
卷积网络之父: Yann LeCun。
深度学习演示:http://playground.tensorflow.org
增加的每一个节点就是一个神经元,还有增加一层层的深度
二、深度学习各层负责内容
神经网络各层负责内容:
1层:负责识别颜色及简单纹理
2层:一些神经元可以识别更加细化的纹理、布纹、刻纹、叶纹等。
3层:一些神经元负责感受黑夜里的黄色烛光、高光、萤火
4层:一些神经元识别萌狗的脸、宠物形貌、圆柱体事务、
5层:一些神经元负责识别花,黑眼圈动物。
三、机器学习与深度学习的区别
3.1特征提取方面
- 机器学习的特征工程步骤是要靠手动完成的,特征提取这需要大量领域专业知识,适合数据量小,比较简单的做数据挖掘。
- 深度学习通常是由多个层组成,它们通常将更简单模型组合在一起,通过将数据从一层传递到另一层来构建更复杂的模型。通过大量数据的训练自动得到模型,不需要人工设计特征提取环节。比较难的,需要精度比较高的适合深度学习。
深度学习算法试图从数据中学习高级功能,这是深度学习的一个的独特的部分。因此,减少了每个问题开发新特征提取器的任务。适合用在难提取特征的图像(CV)、语音(VR)、自然语言领取(NLP)
3.2深度学习应用场景
- 图像识别
- 物体识别
- 场景识别
- 车型识别
- 人脸识别
- 自然语言处理技术
- 机器翻译
- 文本识别
- 聊天对话
- 语音技术
- 语音识别
3.3深度学习代表算法-神经网络
人工神经网络-简称NN,是一种模仿生物神经网络结构和功能的计算模型,经典的神经网络结构包含三个层次的神经网络。分别为输入层、输出层及隐藏层。
其中每一层的圆圈代表一个神经元,隐藏层和输出层的神经元有输入的数据计算后输出,输入层的神经元只是输入。
- 神经网络的特点
神经网络本质上就是一个线性回归
线越粗代表权重越大,
W1X1+W2X2+b= Y
验证神经网络是不是一个线性回归。
W1 = -0.86
W2 = -0.83
B = 0.0029
W1 * X1 + W2 * X2 + b = y
三维的空间压到二维
W1 * x + W2 * y + b = z
z 就是高度,高度变为0
w1 * x + w2 * y +b = 0
y = (-b - w1 * x)/w2 = -w1/w2 *x -b
x = np.linspace(-6, 7, 20)
y = -w1/w2 * x - b/ w2
plt.plot(x,y)
plt.axis(-6, 6 , -6, 6)
_ = plt.xticks(np.arange(-6, 7))
_ = plt.yticks(np.arange(-6, 7))
以上验证一个神经网络就是一个线性方程
12年是一个分水岭,12年之后的数据量越大,机器学习出现的瓶颈,但是深度学习体现出优势。