一、前言
欢迎回到系列文章的第三篇文章,内容是线性代数的基础知识,线性代数是机器学习背后的基础数学。在我之前的文章中,我介绍了梯队矩阵形式。本文将介绍向量、跨度和线性组合,并将这些新想法与我们已经学到的内容联系起来。本文最好与David C. Lay,Steven R. Lay和Judi J. McDonald的线性代数及其应用一起阅读。将此系列视为配套资源。
二、R²、R³ 和 Rⁿ 中的矢量
到目前为止,我们已经了解了矩阵,它是数字数组,如果我们只有一个数字数组(单数)怎么办?看向量:一种特殊类型的矩阵,大小为 m x 1,其中 m 表示向量中的行数或条目数。回想一下,矩阵大小的表示法是 m x n,其中 m 等于行数,而 n 对应于列数。向量将始终只有一列,但具有任意数量的行。
具有两个条目的所有向量的集合是 R²。R 封装了整个实数集,因此 R² 是实数的所有可能点 (x, y) 的二维空间是有道理的。
向量可以是 R²、R³、R⁴ ...Rⁿ,请注意向量空间的维度对应于向量中的条目数。
您最终可能会遇到奇特的零向量(简单地写为 0),这是一个所有条目均为零的向量。虽然这看起来像是一个小细节,但我们稍后会发现它对线性代数中一些最重要的思想具有重要意义。
三、几何可视化
到目前为止,矩阵和向量已经被描述、解释和注释为数学上的,而物理学中的向量被描述为具有大小和方向的量。两者都同样正确;下面以 R² 为单位的矢量图形可视化将矢量的两个定义统一起来。
重要的是要记住,R² 中的向量是有序对,而高维向量空间中的向量是有序元组(具有定义顺序的数字列表)。两个向量可能与它们的条目具有完全相同的数字,但如果它们的条目顺序不同,则向量也不相同,如上图所示。
R³ 中的向量也可以可视化,我们只需添加一个第三个轴,因为我们有一个额外的条目。除了R³之外,图形向量变得更加复杂,因为很难处理描绘高维空间。
四、向量的代数性质
对于任何给定向量空间中的所有向量 u、v、w 以及标量 c 和 d:以下代数性质¹ 成立:
(i) 交换*:u + v = v + u
(二) 结合*: (u + v) + w = w + (v + w )
(三)加性恒等式:U+0=0+U=U
(iv) 加法逆: u + (-u) = -u + u = 0
(v) 向量分布:c(u + v) = c u + cv
(vi) 使用标量分布:(c + d)u = c u + d u
(vii) 与标量关联:c(d u) = (cd)u
这些属性与向量加法和标量乘法的操作相关联。
要添加两个向量,将相应的条目相加以生成向量和。这意味着两个不同大小的向量的向量加法是未定义的。为了添加两个向量,它们必须具有相同数量的条目!此条件源于向量加法的执行方式。
使用标量乘法,对于给定的标量 c 和向量 u,标量倍数为 c u,其中 u 中的每个条目都已乘以标量 c。
这两个操作可以一起使用;正如您将在下一节中发现的那样,组合形成线性代数的核心概念:线性组合。
五、线性组合
假设我们有向量 v₁、v₂、...Rⁿ 中的 vₐ 我们得到了标量(也称为权重)c₁、c₂、...cₐ,可以是任何实数,包括零。线性组合是由标量倍数之和定义的向量,c₁v₁ + c₂v₂ + ... + cₐvₐ。²
之前,我们已经探讨了线性代数中的存在概念,给定一个矩阵,是否至少存在一个解决方案?换句话说,矩阵的缩减/行梯队形式是否存在不一致?如果是这样,则不存在解决方案。如果没有,那么至少有一个解决方案可以。这个基本存在问题与线性代数中的许多思想有关,线性组合也不例外。
我们说向量 b 是一组向量 v₁、v₂、. 的线性组合。Rⁿ 中的 vₐp,如果存在一组权重 c₁、c₂、...Cₐ(溶液),使得 C₁v₁ + C₂v₂ + ... + CₐVₐ = b。
为了确定 b 是否是线性组合,我们可以使用向量加法和标量乘法的运算将我们的线性组合方程重新排列:c₁v₁ + c₂v₂ + ... + cₐvₐp = b 成我们已经非常熟悉的符号。这种重排过程也揭示了为什么弄清楚向量b是否是一组向量的线性组合是一个存在问题。
上述解释旨在强调为什么存在问题和矩阵行约简与线性组合有关,并在一般意义上演示了这一思想。让我们看一个更具体的例子。
在上面的例子中,将行约简矩阵缩减为缩减行梯队形式后,我们发现解决方案确实存在!
但是,让我们考虑行缩减梯队形式的增强矩阵的情况,行 [0, 0, ... |b],其中 b ≠ 0,这意味着向量 b 不能写成一组向量的线性组合。换句话说,向量 b 对于我们的向量集来说是遥不可及的,或者(这是下一节的一个很好的续集)向量 b 不在向量集的范围内。
六、一组向量的跨度
向量 v₁、v₂、...Rⁿ 中的 vₐ 被称为 Rⁿ 的子集,由 v₁、v₂、...Vₐ。矢量 v₁、v₂、...vₐ 表示为 Span{v₁, v₂, ...vₐ} 并且是可以写为 c₁v₁ + c₂v₂ + ... + cₐvₐ.³ 另一种思考方式是跨度包含所有可以写为向量 v₁、v₂、...Vₐ。
我们可以找到给定任意数量的向量的集合的跨度。假设我们有一组奇异向量 v₁。然后,Span{v₁} 将是 v₁ 的所有标量倍数,因为在这种情况下唯一可以应用的操作是标量乘法(至少需要两个向量来执行向量加法)。Span{v₁} 包含 v₁ 可以到达的所有向量。
如果我们要可视化跨度,它将是一条穿过 v₁ 和原点的直线,因为只有一个向量,线性组合(向量倍数)无法改变方向。下图进一步说明了这一点。
考虑两个向量在不同方向上的跨度(R²),这两个向量可以做出哪些可能的线性组合?换句话说,R² 中的向量可以写成这两个向量的线性组合是什么?
对于上述情况,经过进一步调查,似乎 u 和 v 跨越了整个 R²!这意味着 R² 中的任何向量都可以写为 u 和 v 的线性组合。在以后的文章中,我们将探讨线性独立性的概念,该概念将用于具体证明u和v跨越R²。
七、结论
向量、线性组合和跨度使我们更深入地进入了线性代数的丰富领域。这些基本概念有助于我们理解向量空间的结构以及不同向量集之间的关系。随着我们的进一步发展,您会发现这些想法不断浮出水面,因为它们与其他核心概念相关联。同样,我希望你能花一些时间思考一下我们迄今为止学到的一切(解决方案的存在、行梯队形式)是如何与这些新概念紧密相连的。
八、总结
在本章中,我们了解了:
- R²、R³ 和 Rⁿ 中的向量:向量是一种特殊类型的矩阵,大小为 m x 1。 一个向量可以有任意数量的条目,但只有一列。我们发现也可以有一个零向量,一个所有条目均为零的向量。
- 矢量的几何可视化:矢量可以用图形表示,这有助于理解大小和方向的想法来自哪里。
- 向量的代数性质:向量的以下代数性质适用于所有向量和标量;交换、关联、加性恒等式、加法逆、与向量分布、与标量分布以及与标量相关联。
- 线性组合:线性组合是由标量倍数 c₁v₁ + c₂v₂ + ... + cₐvₐ 之和定义的向量。砝码 c₁, c₂, ...Cₐ 可以是任何标量,包括零。
- 向量跨度:向量 v₁、v₂、...vₐ 表示为 Span{v₁, v₂, ...vₐ} 并且是可以写为 C₁v₁ + C₂v₂ + ... + CₐVₐ 的向量集合。
参考资料
¹引用自 Algebraic Properties of Vectors 向量的代数性质
²线性组合的定义,参考自《线性代数及其应用》第6版,作者:David C. Lay、Steven R. Lay和Judi J. McDonald。
³跨度的定义引用自David C. Lay,Steven R. Lay和Judi J. McDonald的线性代数及其应用第6版。
*除非另有说明,否则所有图片均由作者创建。
*关联属性意味着对于加法和乘法的操作,数字可以以任何方式组合在一起,结果将保持不变。例如,(5 + 2) + 3 = 5 + (2 + 3) = 10 和 (5 x 2) x 3 = 5 x (2 x 3) = 30。
*交换意味着对于加法和乘法的操作,数字可以按任何顺序相加或相乘,结果将保持不变。例如,5 + 2 = 2 + 5 = 7 和 5 x 2 = 2 x 5 = 10。