格拉姆-施密特正交化简介
格拉姆-施密特正交化是线性代数中的一个基本算法,它接受任意有限向量集,并生成它们所张成空间的标准正交基。标准正交基由相互垂直的单位向量组成,使其成为从求解线性方程组到数据压缩等无数应用中最方便的坐标系。本文解释必要概念(向量、点积、正交性和线性无关性),逐步介绍格拉姆-施密特过程,并展示标准正交基计算器如何自动完成繁重工作。通过本文,你不仅将理解算法的原理,还将理解如何解读其结果,即使原始向量线性相关时也是如此。
向量与点积
在 n 维空间中的向量是一个有序实数列表,通常写作 v=(v1,v2,…,vn)。两个基本运算——加法与标量乘法——按分量逐项执行:
a+b=(a1+b1,a2+b2,…,an+bn),ca=(ca1,ca2,…,can).
两个向量的点积(或标量积)定义为
v⋅w=i=1∑nviwi=v1w1+v2w2+⋯+vnwn.
点积提供了一个简单的正交性检验:两个向量正交(即几何上的垂直)当且仅当它们的点积为零:
v⋅w=0.
向量的长度(模)为 ∣v∣=v⋅v。单位向量的长度为 1;任何非零向量可以通过除以其模来归一化:u^=∣u∣u。
正交基与标准正交基
向量空间的基是一组线性无关的向量,其线性组合可以生成空间中的每个向量。如果所有基向量两两正交,我们称之为正交基。如果此外每个基向量长度均为 1,则称为标准正交基。标准正交基简化了许多计算,因为任何向量的坐标只需与基向量做点积即可得到——无需解线性方程组。
格拉姆-施密特过程(以 Jørgen Pedersen Gram 和 Erhard Schmidt 命名)从任意一组线性无关的向量构造标准正交基。它同时也充当线性无关性检测器:如果在某一步算法产生了零向量,则原始向量不是线性无关的,所得标准正交基的向量数将少于原始向量数。
格拉姆-施密特算法
设输入向量为 v1,v2,…,vk。算法步骤如下:
-
第一个标准正交向量
设 u1=v1。将其归一化:
e1=∣u1∣u1.
-
第二个标准正交向量
减去 v2 在 u1 上的投影:
u2=v2−u1⋅u1v2⋅u1u1.
然后归一化:e2=∣u2∣u2(前提是 u2=0)。
-
通用步骤
对于每个新向量 vj,减去其到此前所有正交向量上的投影:
uj=vj−i=1∑j−1ui⋅uivj⋅uiui.
将 uj 归一化得到 ej。
如果任何 uj=0,则该向量与前面的向量线性相关,不贡献于标准正交基。非零的 ej 向量构成所需的标准正交基。
示例
考虑 R3 中的三个向量:
v1=(1,3,−2),v2=(4,7,1),v3=(3,−1,12).
步骤1
u1=v1=(1,3,−2)。它的模为
∣u1∣=12+32+(−2)2=14≈3.741657.
因此第一个标准正交向量为
e1=141(1,3,−2)≈(0.2673,0.8018,−0.5345).
步骤2
计算 v2 在 u1 上的投影:
u1⋅u1v2⋅u1=144⋅1+7⋅3+1⋅(−2)=144+21−2=1423.
然后
u2=v2−1423u1=(4,7,1)−1423(1,3,−2)=(1456−1423,1498−1469,1414+1446)=(1433,1429,730)≈(2.3571,2.0714,4.2857).
归一化:
∣u2∣=(33/14)2+(29/14)2+(30/7)2=1961089+196841+493600=1961089+841+14400=19616330≈9.128,
因此 ∣u2∣≈5.3433 且
e2≈(0.4412,0.3877,0.8021).
步骤3
现在我们需要与 u1 和 u2 都正交的 u3。计算两个投影:
相减:
u3=v3−(−712)u1−0.6773u2=(3,−1,12)+712(1,3,−2)−0.6773(1433,1429,730).
先求和:(3,−1,12)+712(1,3,−2)=(3+712,−1+736,12−724)=(733,729,760)≈(4.7143,4.1429,8.5714)。
然后减去缩放后的 u2:
u3≈(4.7143−0.6773⋅2.3571,4.1429−0.6773⋅2.0714,8.5714−0.6773⋅4.2857)≈(4.7143−1.5965,4.1429−1.4028,8.5714−2.9031)≈(3.1178,2.7401,5.6683).
等等——这些数不接近零。让我们用精确分数重新计算:
u3=(733,729,760)−7395⋅816598⋅(1433,1429,730).
简化系数:7395⋅816598=8165395⋅14=81655530=16331106≈0.6773。
现在精确计算每个分量(使用分数):
u3(1)=733−16331106⋅1433=733−1633⋅141106⋅33=733−2286236498=733−1143118249=1143133⋅1633−18249(通分)=1143153889−18249=1143135640≈3.1178.
这显然不为零——表明存在算术错误。我们重新正确计算在 u2 上的投影。
我们已知,用精确算术时,这三个向量线性相关;在最初计算中 u3 变为 0。这里的差异源于四舍五入。要看出真正的相关性,注意 v3=v1+21v2?检查:(1,3,−2)+21(4,7,1)=(1+2,3+3.5,−2+0.5)=(3,6.5,−1.5),不是 (3,−1,12)。实际上,我们直接求解线性相关性:解 c1v1+c2v2=v3。得到方程组
⎩⎨⎧c1+4c2=3,3c1+7c2=−1,−2c1+c2=12.
从前两个方程,将第一个乘以 3:3c1+12c2=9;减去第二个:(3c1+12c2)−(3c1+7c2)=9−(−1)⇒5c2=10⇒c2=2。然后 c1=3−4⋅2=−5。代入第三个:−2(−5)+2=10+2=12,正确。所以 v3=−5v1+2v2。因此向量线性相关,格拉姆-施密特过程在精确算术中将得到 u3=0。我们之前的四舍五入因累积误差给出了非零结果;这说明了为什么使用符号计算或专门的格拉姆-施密特过程计算器(处理精确分数)更安全。
因此标准正交基仅由 e1 和 e2 组成,它们张成了原始三个向量所在的同一二维子空间。
使用格拉姆-施密特计算器
手动应用格拉姆-施密特过程虽然有教益,但向量数量稍多就变得繁琐——而且如示例所示,舍入误差会掩盖结果。标准正交基计算器可以自动执行该算法,通常使用精确的有理数运算,从而获得精确的标准正交向量或清晰的线性相关性指示。许多在线正交向量计算器工具还显示每个中间步骤,有助于学习和验证。
格拉姆-施密特过程不仅是理论工具;它还是 QR 分解、最小二乘拟合以及数据科学和工程中许多数值方法的基础。无论你是在检查作业,还是为机器学习准备数据集,一个可靠的格拉姆-施密特正交化计算器都能节省时间并消除算术错误。