Skip to content

6.4 格拉姆-施密特方法

格拉姆-施密特方法是对 中任何非零子空间构造正交基或标准正交基的简单算法,本节前面两个例题顺便给出计算步骤.

例 1

假设 ,其中 。构造 的一个正交基。

子空间 图 6-21 所示,沿着 上的投影 。与 正交的 的分量是 ,它属于 ,其原因是它由 的倍数相加得到。取 ,可得

图6-21 正交基 的构造

那么 是空间 的非零向量构成的正交集. 由于 ,可知集 构成 的一个基. 下面的例子详细说明了格拉姆-施密特方法,请仔细学习.

例 2

, , . 那么 显然线性无关,且构成 的子空间

的一个基. 试构造 的一个正交基.

步骤 1. 取 .

步骤2. 取 减去它在子空间 上的投影所得到的向量,即

例1 一样, 正交于 的分量,且 是由 所生成的子空间 的一个正交基。步骤 2’(可选的)。如果合适,缩放 以简化后面的计算。由于 具有分数元素,很方便用因子 4 重新度量向量 ,用下面两个正交基代替

步骤3. 取 减去它在子空间 上的投影所得到的向量. 先利用正交基 计算 上的投影:

那么 正交于 的分量,具体为

图 6-22 可以看到构造的图解. 观察可得 属于 ,原因是 都属于 . 从而 中非零向量构成的正交集(因而是线性无关集). W 是三维空间,这是因为它的基又包含三个向量,所以由 4.5 节的基定理可知, 的正交基.

图 6-22 从 构造出

下面定理的证明说明这种方法确实有效. 向量缩放的步骤没有涉及, 原因是缩放只对手工计算作简化.

定理 11 格拉姆-施密特方法

的子空间 的一个基 ,定义

那么 的一个正交基. 此外,

证明

,取 。令 ,则有 。假若对 ,我们已经构造 ,使得 的一个正交基。定义

由正交分解定理知, 正交于 。注意向量 属于 ,因而也属于 。由于 属于 ,从而 也属于 (因为 是子空间,且减法封闭)。更进一步,由于 不属于 ,故 。因而 维空间 中非零向量形成的正交集。由 4.5 节的基定理可知,这个集合是 的正交基。从而 ,当 k+1=p 时成立,归纳证明过程结束。

定理11 说明任何 中的非零子空间 有一个正交基,这是因为普通的基 总是存在的(由 4.5 节中定理11),而格拉姆-施密特方法仅依赖于在有正交基的子空间 总是存在的(由 4.5 节中定理 11),而格拉姆-施密特方法仅依赖于在有正交基的子空间 上的正交投影的存在性.

一个标准正交基很容易从一个正交基 得到:只需单位化所有 。当问题用手工计算时,它比一开始找到 就将其单位化更容易(因为可避免不必要的平方根运算)。

例 3

例1中,我们构造正交集

一个正交基是

如果 矩阵 的列 线性无关,那么应用格拉姆-施密特方法(包含单位化)于 等同于按下面定理描述的方法分解 。这种分解方法广泛应用在各种计算机算法中,如解方程(6.5 节讨论)和求特征值(5.2 节的习题中提到)。

定理 12 QR分解

如果 矩阵 的列线性无关, 那么 可以分解为 , 其中 是一个 矩阵, 其列形成 的一个标准正交基, 是一个 上三角可逆矩阵且在对角线上的元素为正数.

证明

的列向量形成 的一个基 。构造 W=Col A 的一个标准正交基 ,且具有定理11 中的性质(1)。这个基的构造可由格拉姆-施密特方法或其他方法完成。取

属于 。所以存在常数 ,使得

我们可以假设 (如果 ,对 都乘-1),这表明 的列的线性组合,且权是下面向量中的元素:

,其中 。取 。那么

可逆的结论可从下面 Col A 线性无关的事实立刻得到(习题 19)。因为 是上三角形矩阵,故它的非负对角元素必为正值。

例 4

的一个QR分解.

的列向量为例2中的 的一个正交基在例2中得到: 的一个正交基在例2中得到:

重新度量 ,取 ,那么将 三个向量单位化得到 ,且用这些向量组成 的列.

的构造可知, 的前 列是 的一个标准正交基。从定理12 的证明可知,对某些 有 A=QR。为找到 ,注意到 ,这是因为 的列是单位正交向量。所以

  1. 当格拉姆-施密特方法用计算机实现时,在 的计算中,每个向量由四舍五入引起的误差逐渐增大。对较大但不相等的 ,内积 可能不充分接近于零。通过重新安排计算的阶,这类正交性的损失可以大量减少。然而,基于计算机的 QR 分解常指这类标准化的格拉姆-施密特方法,这是因为它会产生更精确的标准正交基,即使分解需要双倍的算术计算。

  2. 为了得到一个矩阵 的QR分解, 计算机程序常常对 左乘一系列正交矩阵使结果变成一个上三角形矩阵. 这个构造过程类似于 左乘一系列初等矩阵, 最后得到 的LU分解.

练习题
  1. ,其中 ,构造 的一个标准正交基.

  2. 假定 ,其中 是一个具有正交列向量的 矩阵, 矩阵。证明:如果 的列向量是线性相关的,则 不是可逆矩阵。

习题6.4

在习题 1~6 中,给出的集合是子空间 的一个基,利用格拉姆-施密特方法构造 的正交基.

  1. 求习题 3 中向量所生成的子空间的一个标准正交基.

  2. 求习题 4 中向量所生成的子空间的一个标准正交基.

在习题 9~12 中,求每个矩阵列空间的正交基.

在习题 13~14 中,矩阵 的列是格拉姆-施密特方法应用于矩阵 的列而得到的,求上三角形矩阵 ,使得 A=QR,并检查你的结果.

  1. 求习题 11 中矩阵的 QR 分解.

  2. 求习题 12 中矩阵的 QR 分解.

习题 17~18 中的所有向量和子空间都属于 ,判断每一个结论是正确还是错误,验证你的结论.

  1. . 如果 的正交基,那么用因子 去乘 可得一个新的正交基 .

. 格拉姆-施密特方法将一个线性无关的集合 转化为一个正交集 ,且具有如下性质:对每一个 ,向量 生成的子空间与向量 生成的子空间一致.

. 如果 A=QR,其中 具有单位正交列,那么 .

  1. . 如果 ,且 线性无关,如果 的一个正交集,那么 的一个基.

. 如果 不属于子空间 ,那么 不是零向量.

. 在一个 QR 分解中,例如 A=QR( 有线性无关列), 的列构成 的列子空间的标准正交基.

  1. 假设 A = QR,其中 矩阵, 矩阵。证明:如果 的列线性无关,那么 一定可逆(提示:研究方程 Rx = 0 且利用 A = QR 的事实)。

  2. 假设 ,其中 是一个可逆矩阵,证明 具有相同的列空间。(提示:给定属于 ,存在 使得 。此外,对给定的 ,存在 使得 。)

  3. 定理12 中 A=QR,描述如何找到一个正交 (方)矩阵 和一个可逆 上三角形矩阵 ,使得

当 rank A = n 时, MATLAB 中的 qr 命令给出一个 “完全” QR 分解.

  1. 的子空间 的一个正交基,

定义为 ,证明 是一个线性变换.

  1. 矩阵 (含有线性无关列)的一个QR分解。把 划分成 ,其中 列。说明如何获得 的一个QR分解,并解释为什么这样的分解具有如此性质。

  2. []像例2 那样利用格拉姆-施密特方法构造下面矩阵 的列空间的正交基.

  1. []利用本节中的方法给出习题 24 中矩阵

的一个 QR 分解.

  1. []对矩阵程序, 格拉姆-施密特方法比单位正交向量更有效. 从定理11 中的 开始, 取 . 若 矩阵 的列构成矩阵 的前 列所生成的子空间 的一个标准正交基, 那么对于 中的向量 , 上的正交投影 (6.3 节定理10). 如果 的下一列, 则定理11 证明中的方程 (2) 变成 的下一列, 则定理 11 证明中的方程 (2) 变成

(上面的括号可以减少算术运算.)取 ,下一个步骤中的新 。利用这个步骤,计算习题 24 中矩阵的 QR 分解,写出你所用的键击内容或命令。

练习题答案
  1. ,这样 是正交向量,接下来需要将向量单位化。设

单位化 代替直接单位化 :

这样 就是 的标准正交基.

  1. 由于 的列向量是线性相关的,故存在一个非平凡向量 ,使得 ,从而 。运用6.2节的定理7,有 。但 ,这可由6.1节的定理1得到。因此存在一个非平凡向量 ,这可由6.1节的定理1得到。因此存在一个非平凡向量 ,使得 ,于是由可逆矩阵定理知 不是可逆的。