机器学习的多元微积分跟高等数学中的多元微积分有很多不同之处。 机器学习中的变量都是向量或者矩阵机器学习中的函数一般都是线性函数,而不是高数中的曲线和曲面、体积等函数。因此,机器学习中的微积分跟线性代数结合在一起。机器学习中导数的分子分母都是范数。 定义: 定理1 此定理我也理解的不够深入,先放在这里,以后有机会仔细研究。 例子1: 复现: 例子2: 复现: 对上图的例子,计算导数时要先展开成图中的格式,然后根据导数的定义,|| f(x + delta x) - f(x) || / ||x|| 定理2 验证: