6.4 格拉姆-施密特方法
格拉姆-施密特方法是对 中任何非零子空间构造正交基或标准正交基的简单算法,本节前面两个例题顺便给出计算步骤.
假设 ,其中 , 。构造 的一个正交基。
解
子空间 如图 6-21 所示,沿着 , 和 在 上的投影 。与 正交的 的分量是 ,它属于 ,其原因是它由 和 的倍数相加得到。取 ,可得
那么 是空间 的非零向量构成的正交集. 由于 ,可知集 构成 的一个基. 下面的例子详细说明了格拉姆-施密特方法,请仔细学习.
设 , , . 那么 显然线性无关,且构成 的子空间
的一个基. 试构造 的一个正交基.
解
步骤 1. 取 和 .
步骤2. 取 是 减去它在子空间 上的投影所得到的向量,即
像例1 一样, 是 正交于 的分量,且 是由 和 所生成的子空间 的一个正交基。步骤 2’(可选的)。如果合适,缩放 以简化后面的计算。由于 具有分数元素,很方便用因子 4 重新度量向量 ,用下面两个正交基代替 :
步骤3. 取 是 减去它在子空间 上的投影所得到的向量. 先利用正交基 计算 在 上的投影:
那么 是 正交于 的分量,具体为
从图 6-22 可以看到构造的图解. 观察可得 属于 ,原因是 和 都属于 . 从而 是 中非零向量构成的正交集(因而是线性无关集). W 是三维空间,这是因为它的基又包含三个向量,所以由 4.5 节的基定理可知, 是 的正交基.
下面定理的证明说明这种方法确实有效. 向量缩放的步骤没有涉及, 原因是缩放只对手工计算作简化.
对 的子空间 的一个基 ,定义
那么 是 的一个正交基. 此外,
证明
对 ,取 。令 ,则有 。假若对 ,我们已经构造 ,使得 是 的一个正交基。定义
由正交分解定理知, 正交于 。注意向量 属于 ,因而也属于 。由于 属于 ,从而 也属于 (因为 是子空间,且减法封闭)。更进一步,由于 不属于 ,故 。因而 是 维空间 中非零向量形成的正交集。由 4.5 节的基定理可知,这个集合是 的正交基。从而 ,当 k+1=p 时成立,归纳证明过程结束。
定理11 说明任何 中的非零子空间 有一个正交基,这是因为普通的基 总是存在的(由 4.5 节中定理11),而格拉姆-施密特方法仅依赖于在有正交基的子空间 总是存在的(由 4.5 节中定理 11),而格拉姆-施密特方法仅依赖于在有正交基的子空间 上的正交投影的存在性.
一个标准正交基很容易从一个正交基 得到:只需单位化所有 。当问题用手工计算时,它比一开始找到 就将其单位化更容易(因为可避免不必要的平方根运算)。
在例1中,我们构造正交集
一个正交基是
矩阵的QR分解
Section titled “矩阵的QR分解”如果 矩阵 的列 线性无关,那么应用格拉姆-施密特方法(包含单位化)于 等同于按下面定理描述的方法分解 。这种分解方法广泛应用在各种计算机算法中,如解方程(6.5 节讨论)和求特征值(5.2 节的习题中提到)。
如果 矩阵 的列线性无关, 那么 可以分解为 , 其中 是一个 矩阵, 其列形成 的一个标准正交基, 是一个 上三角可逆矩阵且在对角线上的元素为正数.
证明
的列向量形成 的一个基 。构造 W=Col A 的一个标准正交基 ,且具有定理11 中的性质(1)。这个基的构造可由格拉姆-施密特方法或其他方法完成。取
对 , 属于 。所以存在常数 ,使得
我们可以假设 (如果 ,对 和 都乘-1),这表明 是 的列的线性组合,且权是下面向量中的元素:
即 ,其中 。取 。那么
可逆的结论可从下面 Col A 线性无关的事实立刻得到(习题 19)。因为 是上三角形矩阵,故它的非负对角元素必为正值。
求 的一个QR分解.
解
的列向量为例2中的 的一个正交基在例2中得到: 的一个正交基在例2中得到:
重新度量 ,取 ,那么将 三个向量单位化得到 ,且用这些向量组成 的列.
由 的构造可知, 的前 列是 的一个标准正交基。从定理12 的证明可知,对某些 有 A=QR。为找到 ,注意到 ,这是因为 的列是单位正交向量。所以
且
数值计算的注解
Section titled “数值计算的注解”-
当格拉姆-施密特方法用计算机实现时,在 的计算中,每个向量由四舍五入引起的误差逐渐增大。对较大但不相等的 和 ,内积 可能不充分接近于零。通过重新安排计算的阶,这类正交性的损失可以大量减少。然而,基于计算机的 QR 分解常指这类标准化的格拉姆-施密特方法,这是因为它会产生更精确的标准正交基,即使分解需要双倍的算术计算。
-
为了得到一个矩阵 的QR分解, 计算机程序常常对 左乘一系列正交矩阵使结果变成一个上三角形矩阵. 这个构造过程类似于 左乘一系列初等矩阵, 最后得到 的LU分解.
-
设 ,其中 和 ,构造 的一个标准正交基.
-
假定 ,其中 是一个具有正交列向量的 矩阵, 是 矩阵。证明:如果 的列向量是线性相关的,则 不是可逆矩阵。
在习题 1~6 中,给出的集合是子空间 的一个基,利用格拉姆-施密特方法构造 的正交基.
-
求习题 3 中向量所生成的子空间的一个标准正交基.
-
求习题 4 中向量所生成的子空间的一个标准正交基.
在习题 9~12 中,求每个矩阵列空间的正交基.
在习题 13~14 中,矩阵 的列是格拉姆-施密特方法应用于矩阵 的列而得到的,求上三角形矩阵 ,使得 A=QR,并检查你的结果.
-
求习题 11 中矩阵的 QR 分解.
-
求习题 12 中矩阵的 QR 分解.
习题 17~18 中的所有向量和子空间都属于 ,判断每一个结论是正确还是错误,验证你的结论.
- . 如果 是 的正交基,那么用因子 去乘 可得一个新的正交基 .
. 格拉姆-施密特方法将一个线性无关的集合 转化为一个正交集 ,且具有如下性质:对每一个 ,向量 生成的子空间与向量 生成的子空间一致.
. 如果 A=QR,其中 具有单位正交列,那么 .
- . 如果 ,且 线性无关,如果 是 的一个正交集,那么 是 的一个基.
. 如果 不属于子空间 ,那么 不是零向量.
. 在一个 QR 分解中,例如 A=QR( 有线性无关列), 的列构成 的列子空间的标准正交基.
-
假设 A = QR,其中 是 矩阵, 是 矩阵。证明:如果 的列线性无关,那么 一定可逆(提示:研究方程 Rx = 0 且利用 A = QR 的事实)。
-
假设 ,其中 是一个可逆矩阵,证明 和 具有相同的列空间。(提示:给定属于 的 ,存在 使得 。此外,对给定的 ,存在 使得 。)
-
如定理12 中 A=QR,描述如何找到一个正交 (方)矩阵 和一个可逆 上三角形矩阵 ,使得
当 rank A = n 时, MATLAB 中的 qr 命令给出一个 “完全” QR 分解.
- 设 是 的子空间 的一个正交基,
定义为 ,证明 是一个线性变换.
-
设 是 矩阵 (含有线性无关列)的一个QR分解。把 划分成 ,其中 有 列。说明如何获得 的一个QR分解,并解释为什么这样的分解具有如此性质。
-
[]像例2 那样利用格拉姆-施密特方法构造下面矩阵 的列空间的正交基.
- []利用本节中的方法给出习题 24 中矩阵
的一个 QR 分解.
- []对矩阵程序, 格拉姆-施密特方法比单位正交向量更有效. 从定理11 中的 开始, 取 . 若 矩阵 的列构成矩阵 的前 列所生成的子空间 的一个标准正交基, 那么对于 中的向量 , 是 上的正交投影 (6.3 节定理10). 如果 的下一列, 则定理11 证明中的方程 (2) 变成 是 的下一列, 则定理 11 证明中的方程 (2) 变成
(上面的括号可以减少算术运算.)取 ,下一个步骤中的新 是 。利用这个步骤,计算习题 24 中矩阵的 QR 分解,写出你所用的键击内容或命令。
- 设 和 ,这样 是正交向量,接下来需要将向量单位化。设
单位化 代替直接单位化 :
这样 就是 的标准正交基.
- 由于 的列向量是线性相关的,故存在一个非平凡向量 ,使得 ,从而 。运用6.2节的定理7,有 。但 ,这可由6.1节的定理1得到。因此存在一个非平凡向量 ,这可由6.1节的定理1得到。因此存在一个非平凡向量 ,使得 ,于是由可逆矩阵定理知 不是可逆的。
书籍模块索引
线性代数及其应用(原书第5版) · 章节内联关系图谱
核心知识枢纽章节
被全书其他章节引用频次最高的基石章节:
图谱交互提示
- 视角放大/缩小:使用左下角工具栏 +/- 或鼠标滚轮;
- 大书防混淆:顶部选择“按篇章/大章聚合”或“聚焦当前章”;
- 视图平移与拖拽:拖动画布或节点;双击节点直达原文。