一、机器学习的定义

从广义上来说，机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法。但从实践的意义上来说，机器学习是一种通过利用数据，训练出模型，然后使用模型预测的一种方法。

二、机器学习的范围

其实，机器学习跟模式识别，统计学习，数据挖掘，计算机视觉，语音识别，自然语言处理等领域有着很深的联系。

从范围上来说，机器学习跟模式识别，统计学习，数据挖掘是类似的，同时，机器学习与其他领域的处理技术的结合，形成了计算机视觉、语音识别、自然语言处理等交叉学科。因此，一般说数据挖掘时，可以等同于说机器学习。同时，我们平常所说的机器学习应用，应该是通用的，不仅仅局限在结构化数据，还有图像，音频等应用。

Python 用于 AI 和 ML 的 6 大库和框架

Python 编程语言最棒的地方是有大量的机器学习开发的库。以下是 6 大 Python 库，它们通过可读性和强大的算法使人工智能无缝衔接。

1、NumPy

如果没有 NumPy，数据科学将是不完整的。它是一个可以进行科学计算的 Python 软件包。NumPy 是一个神奇的多维数组对象库。它们协同工作，降低了程序的计算复杂性。

2、SciPy

SciPy 是 Python 人工智能项目的另一个热门库，也是涉及数学和工程领域中， Python 程序员科学和重度计算的首选。它提供了数值优化和集成的例程，对于初学者来说非常友好。

3、Scikit-Learn

这个库建立在 NumPy 和 SciPy 之上，主要用于监督和无监督学习。它是一个用于数据挖掘和数据分析的完美工具。

4、Pandas

Pandas 是开源的 Python 软件包，使程序员能够对数据进行操作和分析。它具有高效的数据探索和可视化功能，并提供高级数据结构和多种工具，可用于密切处理多个数据集。

5、Keras

Keras 是一个运行在 TensorFlow 上的 API。Keras的重点是让开发者快速实验人工智能。这个库的用户体验比 TensorFlow 好得多——因为它是用 Python 开发的，所以比其他工具更容易理解。

6、Matplotlib

所有库中最强大的是 Matplotlib。它提供了数据可视化和探索的功能，以及图表、直方图和散点图等，以定制 Python AI 项目。Matplotlib 有助于在更短的时间内快速操作数据进行可视化展示。

这些是 Python和机器学习的6大库。除此以外，还有TensorFlow、NLTK、PyBrain、Caffe等库，这些库会导致AI应用的适当性能。

线性代数

线性代数中的概念是理解机器学习理论所必需的基础知识，尤其是对那些处理深度学习算法的人而言。在刚接触机器学习时，你可以不需要掌握线性代数。

但到了一定程度后，当你希望更好地理解不同机器学习算法运作原理时，线性代数就很有用了，它可以帮助你在开发机器学习系统时更好地做决策。

微积分

微分的计算及其几何、物理含义，是机器学习中大多数算法的求解过程的核心。 比如算法中运用到梯度下降法、牛顿法等。

如果对其几何意义有充分的理解，就能理解“梯度下降是用平面来逼近局部，牛顿法是用曲面逼近局部”，能够更好地理解运用这样的方法。

绝大多数问题用典型机器学习的算法都能解决，粗略地列举一下这些方法如下：

处理分类问题的常用算法包括：逻辑回归(工业界最常用)，支持向量机，随机森林，朴素贝叶斯(NLP中常用)，深度神经网络(视频、图片、语音等多媒体数据中使用)。
处理回归问题的常用算法包括：线性回归，普通最小二乘回归（Ordinary Least Squares
Regression），逐步回归（Stepwise Regression），多元自适应回归样条（Multivariate
Adaptive Regression Splines）
处理聚类问题的常用算法包括：K均值（K-means），基于密度聚类，LDA等等。
降维的常用算法包括：主成分分析（PCA）,奇异值分解（SVD）等。
推荐系统的常用算法：协同过滤算法
模型融合(model ensemble)和提升(boosting)的算法包括：bagging，adaboost，GBDT，GBRT
其他很重要的算法包括：EM算法等等。