深度学习介绍
深度学习和机器学习区别
机器有人工参与,而深度学习是靠网络;
深度学习需要大量的数据集,训练神经网络需要大量的算力
机器学习有:朴素贝叶斯,决策树等
深度学习主要是神经网络
深度学习应用场景
CV:物体识别,场景识别,车型认识,人脸检测跟踪,人脸关键点跟踪,人脸身份认证
NPL:机器翻译 文本识别 聊天对话
语音技术:语音识别
TensorFlow框架的使用
结构
各个组件
图
什么是图结构
图结构就是数据(Tensor)加操作(operation)
2 图相关操作
new_g = tf.Graph()
with new_g.as_default();
用TensorBoard:可视化学习
1.
2启动
OP
操作函数
tf.constant(Tensor对象) Const
tf.add(Tensor1,Tensor2) Add对象
指令名称
会话
开启会话的俩种方式:
# tf.Session:用于完整的程序当中 # tf.InteractiveSession:用于交互式上下文中的TensorFlow ,例如shell # 1)会话掌握资源,用完要回收 - 上下文管理器 # 2)初始化会话对象时的参数 # graph=None # target:如果将此参数留空(默认设置), # 会话将仅使用本地计算机中的设备。 # 可以指定 grpc:// 网址,以便指定 TensorFlow 服务器的地址, # 这使得会话可以访问该服务器控制的计算机上的所有设备。 # config:此参数允许您指定一个 tf.ConfigProto # 以便控制会话的行为。例如,ConfigProto协议用于打印设备使用信息 # 3)run(fetches,feed_dict=None) # 3 feed操作 # a = tf.placeholder(tf.float32, shape=) # b = tf.placeholder(tf.float32, shape=)
张量
两个属性:type 和shape
# 张量Tensor # print() # ndarray # 张量值的类型 当在会话中返回的类型 # 2.4.1 张量(Tensor) # 张量 在计算机当中如何存储? # 标量 一个数字 0阶张量 # 向量 一维数组 [2, 3, 4] 1阶张量 # 矩阵 二维数组 [[2, 3, 4], 2阶张量 # [2, 3, 4]] # …… # 张量 n维数组 n阶张量 # 1 张量的类型 # 2 张量的阶 # 创建张量的时候,如果不指定类型 # 默认 tf.float32 # 整型 tf.int32 # 浮点型 tf.float32
# 张量(Tensor) # 张量 在计算机当中如何存储? # 标量 一个数字 0阶张量 # 向量 一维数组 [2, 3, 4] 1阶张量 # 矩阵 二维数组 [[2, 3, 4], 2阶张量 # [2, 3, 4]] # …… # 张量 n维数组 n阶张量 # 1 张量的类型 # 2 张量的阶 # 创建张量的时候,如果不指定类型 # 默认 tf.float32 # 整型 tf.int32 # 浮点型 tf.float32 # 2.4.2 创建张量的指令 # 2.4.3 张量的变换 # ndarray属性的修改 # 类型的修改 # 1)ndarray.astype(type) # tf.cast(tensor, dtype) # 不会改变原始的tensor # 返回新的改变类型后的tensor # 2)ndarray.tostring() # 形状的修改 # 1)ndarray.reshape(shape) # -1 自动计算形状 # 2)ndarray.resize(shape) # 静态形状 - 初始创建张量时的形状 # 1)如何改变静态形状 # 什么情况下才可以改变/更新静态形状? # 只有在形状没有完全固定下来的情况下 # tensor.set_shape(shape) # 2)如何改变动态形状 # tf.reshape(tensor, shape) # 不会改变原始的tensor # 返回新的改变形状后的tensor # 动态创建新张量时,张量的元素个数必须匹配
变量
创建变量
def variable_demo():
"""
变量的演示
:return:
"""
# 创建变量
with tf.variable_scope("my_scope"):
a = tf.Variable(initial_value=50)
b = tf.Variable(initial_value=40)
with tf.variable_scope("your_scope"):
c = tf.add(a, b)
print("a:\n", a)
print("b:\n", b)
print("c:\n", c)
# 初始化变量
init = tf.global_variables_initializer()
# 开启会话
with tf.Session() as sess:
# 运行初始化
sess.run(init)
a_value, b_value, c_value = sess.run([a, b, c])
print("a_value:\n", a_value)
print("b_value:\n", b_value)
print("c_value:\n", c_value)
return None
# TensorFlow - 变量 # 存储模型参数 # 1 创建变量 # 变量需要显式初始化,才能运行值 # 2 使用tf.variable_scope()修改变量的命名空间 # 使得结构更加清晰
API
通过TensorFlow官方文档去看
线性回归案例(用TensorFlow)
7.1 线性回归原理复习 1)构建模型 y = w1x1 + w2x2 + …… + wnxn + b 2)构造损失函数 均方误差 3)优化损失 梯度下降 7.2 案例:实现线性回归的训练 准备真实数据 100样本 x 特征值 形状 (100, 1) y_true 目标值 (100, 1) y_true = 0.8x + 0.7 假定x 和 y 之间的关系 满足 y = kx + b k ≈ 0.8 b ≈ 0.7 流程分析: (100, 1) * (1, 1) = (100, 1) y_predict = x * weights(1, 1) + bias(1, 1) 1)构建模型 y_predict = tf.matmul(x, weights) + bias 2)构造损失函数 error = tf.reduce_mean(tf.square(y_predict - y_true)) 3)优化损失 optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.01).minimize(error) 5 学习率的设置、步数的设置与梯度爆炸 7.3 增加其他功能 1 增加变量显示 1)创建事件文件 2)收集变量 3)合并变量 4)每次迭代运行一次合并变量 5)每次迭代将summary对象写入事件文件 2 增加命名空间 3 模型的保存与加载 saver = tf.train.Saver(var_list=None,max_to_keep=5) 1)实例化Saver 2)保存 saver.save(sess, path) 3)加载 saver.restore(sess, path) 4 命令行参数使用 1)tf.app.flags tf.app.flags.DEFINE_integer("max_step", 0, "训练模型的步数") tf.app.flags.DEFINE_string("model_dir", " ", "模型保存的路径+模型名字") 2)FLAGS = tf.app.flags.FLAGS 通过FLAGS.max_step调用命令行中传过来的参数 3、通过tf.app.run()启动main(argv)函数
总结