前言

虽然已经好久没有更新了，但笔者最近一直都在努力学习哦。

前面三三两两根据GitHub上的项目写了一些实验操作，但是总觉得这样是不行的。碎片化的学习只能是建立在已知的基础上进行熟练，不能作为打基础的主力方法，最关键的是，GitHub的这个项目听起来非常诱人，但是并不适合自己从头开始认真学习，其内容过于零散，于是从本节开始，决定不再拾人牙慧，进入自己的系统化的学习过程。
第一讲就讲讲机器学习的概念

一、机器学习概念介绍

1.1 概览

人工智能，机器学习和深度学习之间的关系

早期的人工智能可以说是一个宏伟的目标，因为它的目的是赋予机器人的智慧，这种称为“强人工智能”，例如科幻电影里的终结者，能够像人类一样思考、学习、独立完成各项任务等；目前所能完成的是”弱人工智能“，主要是帮助人类完成某项特定的任务，例如搜索引擎、下围棋等。
机器学习就是实现弱人工智能的一种方式。
深度学习，属于机器学习的一个子领域，主要使用神经网络算法解决机器学习中的分类问题。人工神经网络(Artificial Neural Networks)是早期机器学习中的一个重要的算法，以我们大脑互相交叉相连的神经元为启发，人工神经网络具有离散的层、连接和数据传播的方向，深度学习的深度（deep），指的就是神经网络中众多的层数。

日常的应用

• 搜索引擎（Google）
• 物品识别
• 标记垃圾邮件
• 计算生物学（基因组研究）
• 手写识别
• 。。。

商业应用：

· 市场营销 （客户留存、分群、获取、产品推荐）
· 运营管理 （库存分析、供给分析、商品推荐）
· 风险欺骗 （欺诈检测、风险预警、信用评分、损失分析）
· 金融市场 （现金流预测、预算模拟、金融风控模型）
· 其他 （生命科学、健康医疗、社会科学、媒体、旅游）

1.1.1 机器学习定义

第一个机器学习的定义来自于Arthur Samuel。他定义机器学习为，在进行特定编程的情况下，给予计算机学习能力的领域。Samuel的定义可以回溯到50年代，他编写了一个西洋棋程序。这程序神奇之处在于，编程者自己并不是个下棋高手。但因为他太菜了，于是就通过编程，让西洋棋程序自己跟自己下了上万盘棋。通过观察哪种布局（棋盘位置）会赢，哪种布局会输，久而久之，这西洋棋程序明白了什么是好的布局，什么样是坏的布局。

A subset of AI in the field of computer science that often uses statistical techniques to give computers the ability to 'learn'.

近代的定义

一个程序被认为能从经验E中学习，解决任务T，达到性能度量值P，当且仅当，有了经验E后，经过P评判，程序在处理T时的性能有所提升。
由Tom Mitchell提出，来自卡内基梅隆大学

graph TD
A[定义问题] --> B[收集数据]
B --> C[特征工程]
C --> D[建模] 
D --> E[调整模型设置] 
E --> F[评价模型]
F --> G[部署]
G --> H[模型更新]

1.1.2 机器学习与传统规则引擎的区别

规则引擎：

• 编程解决问题
• 人为定义决策

机器学习：

• 从经验中学习
• 决策规则复杂

举例说明

• 规则引擎
  类似于手机上的单机斗地主，编程者提前拟定决策规则，并进行编程实现，这种规则引擎为固定的，无论和电脑玩多少次，电脑的打牌水平都不会有长进。
• 机器学习
  类似于下围棋的AlphaGo，任务T就是成为下棋高手，经验E就是成千上万次的练习，性能度量值P就是能够打败人类的下棋高手。

机器学习可以做到使用历史数据，学习特征，实现预测。

1.2 机器学习类型

不同的机器学习类型

	Label
🌟Supervised	Yes
🌟Unsupervised	No
Semi-supervised	Part
Reinforced	No(rewarding)

Label🏷️ 标签用于标记物体的属性，可以理解成 y = ax+b 中的y。
例如垃圾邮件问题，是否为垃圾就是邮件的标签；预测房价问题，所给的一个小区的房屋价格就是房屋的标签。

数据获取网站 kaggle
数据获取网站 UCI
可以从这些网站中获取数据进行练习。

1.2.1 有监督学习

解决的两类常见问题：

• 分类问题
• 回归问题

	分类 classification	回归 regression
目标变量	离散	连续

• 使用有标签数据训练模型
• 为新数据打标签
• 大部分机器学习模型为有监督学习

回归问题例子：房价预测

吴恩达机器学习课程案例

• 模型评价指标 Normalized RMSE [值越小越好]/ Goodness of Fit( ) [值越大越好]
• 特征重要性

分类问题例子：判断肿瘤类别

• 模型评价指标 Performance(AUC) (一般来说 >0.85 说明非常好)
• 特征重要性
• 混淆矩阵 Confusion Matrix

True Positives	False Positives
False Negatives	True Negatives

监督学习总结

两种问题：

• 分类问题
  把数据按类别划分，例如鉴别肿瘤是良性还是恶性，邮件是否是垃圾邮件。

---

• 回归问题

1.2.2 无监督学习

无监督VS有监督

无监督学习的数据没有标签（或者有相同的标签），无监督学习的任务就是将这些数据分成不同的簇，所以称为聚类算法，谷歌新闻就是使用了无监督学习，将网络中海量的新闻自动分类，每一个类都是不同的主题。

无监督学习特点

• 使用无标签数据训练模式
• 发现数据固有特征
• 可用于数据降维、异常检测
• 聚类是最常见的无监督学习技术

无监督学习的应用

无监督学习没有收到人工输入的数据标签，对于算法的角度而言，只有一堆包含属性值的数据，通过运行一个聚类算法，就能够得到这些数据的分类结果。
例子：鸡尾酒宴会问题。
宴会的环境比较嘈杂，交谈声、音乐声和其他噪声等交织在一起，在不同的位置放置两个麦克风🎤，记录宴会的声音数据。通过无监督学习，就能完成音频输入的分离。[插入video play 6:30]

例子：Iris聚类

• 组内离差平方和 （判别聚类算法好坏的关键指标）

无监督学习总结

• 聚类问题
• 异常值检测问题

1.2.3 半监督学习

特点

• 使用少量有标签数据训练
• 为大部分无标签数据打标签(标签预处理)
  应用目的：
  节约训练成本
  节约打标签成本

1.2.4 强化学习

学习一系列的行动(actions) ，使奖励(reward) 最大化。
例如：alpha go、自动驾驶

1.3 总结

见xmind。