佐仓杏子
Aα是A的列向量的一个线性组合,也就是A列空间中的一个向量。
要让Aα-Y的模最小,自然要求Aα-Y与A所有每个列向量正交,否则总可以消除掉其中可以投影到A列空间的部分来减小模长:因为任何向量V总是可以分解到某一子空间(这一例中是A的列空间)和其正交补空间上:V=V_\parallel+V_\perp;而向量的模平方是这两部分模方之和,如果我们希望向量的模最小,那就应该消除掉A列空间中的那一部分,只保留与其正交的部分。
假设A的列空间是\{ A_1,\,A_2,\cdots A_n \},\alpha=(\alpha_1,\,\alpha_2,\cdots\alpha_n)^T
如果存在Aα-Y和A的某个列向量(比如A_i)内积不为0,假设为\lambda,那总可以考虑A\alpha-Y-\lambda\frac{A_i}{\left|A_i\right|^2}=A\alpha^\prime-Y有更短模长。