背景

看逻辑回归时，里面提到的微分和积分傻傻分不清，干脆来复习一下高等数学里面这部分的知识。

问题分析

先分析一个具体的问题：一块正方形金属薄片受到温度变化的影响，其边长从 $x_0$ 变到 $x_0+\Delta x$，问此薄片的面积改变了多少？

热胀冷缩，边长增加了，则面积也会增加，正方形的面积公式为 $A=x^2$。

受热之前的面积：
$$\begin{array}{r}A1=x_0^2\end{array}$$

受热之后的面积：
$$\begin{array}{rl}A2& =（x_0+\Delta {)}^2\\ & =x_0^2+2x_0\Delta x+\Delta x^2\end{array}$$

公式 （3） 和公式（2）相减，得到受热后面积的增加量 $\Delta A$ ：
$$\begin{array}{rl}\Delta A& =A2-A1\\ & =2x_0\Delta x+\Delta x^2\end{array}$$

公式（5）的增量分为两部分，第一部分与原来的边长和边长增量有关 $2x_0\Delta x$，第二部分只与增量有关，且是增量的平方 $\Delta x^2$，这是一个高阶无穷小量。当边长改变很微小时，第二部分可近乎为0，那么增量就可近似用第一部分来替代。

高阶无穷小

若 ${\lim }_{\alpha \to 0}\frac{\beta }{\alpha }=0$，则称「β是比α较高阶的无穷小」，即在某一过程($x\to x0$ 或 $x\to \infty$ 这类过程) 中，β→0 比 α→0 更快一些。

微分通用定义

设函数 $y=f(x)$ 在某区间内有定义：$x_0$ 及 $x_0+\Delta x$ 在这区间内，如果函数的增量：
$$\begin{array}{r}\Delta y=f(x_0+\Delta x)-f(x_0)\end{array}$$

可表示为：
$$\begin{array}{r}\Delta y=A\Delta x+o(\Delta x)\end{array}$$

其中 A 是常量，那么称函数 $y=f(x)$ 在点 $x_0$ 是可微的，而 $A\Delta x_0$ 叫做函数 $y=f(x)$ 在点 $x_0$ 相对于自变量的增量 $\Delta x$ 的微分，记做 $dy$ ，即：
$$\begin{array}{r}dy=A\Delta x\end{array}$$

启示录

微分，顾名思义，微小的变化，它是自变量变化微小的量后，因变量与这个自变量变化量之间的关系。它就是用来求解因变量的微小变化量的。

导数，它是自变量的变化量和应变量的变化量的比值，在因变量变化量趋于0时的极限值。微分可以用导数来表示。

个人理解，未完、待继续整理……