第59页 3.7 Fourier Series

假定有Hilbert空间H中一组单位正交列{e_i}，其生成的闭子空间为M， 则有：
1. 由任何平方和收敛的数列作系数形成的级数收敛，且系数为极限与对应e_i的内积。
2. 反之，对任一H中元素x，与e_i的内积称为Fourier系数。Bessel不等式保证Fourier系数平方和小于||x||^2故收敛，进而由1可知Fourier级数收敛于M中元素\hat{x}，且有x-\hat{x}与M正交。
3. 若该单位正交列完备，即M＝H，则x的Fourier级数收敛到x自身。
4. 该单位正交列完备的充要条件为: H中与所有e_i均正交的元素仅为0. 
给定一组线性独立集{y_i}，求x到{y_i}所生成的闭子空间M的最短距离，也即用y_i的线性组合来近似x，可用Gram-Schmidt法与Fourier级数求得：先将{y_i}单位正交化，再求x的Fourier级数\hat{x}，则x与\hat{x}距离即为所求。
Since the solution to the approximation problem is equivalent to solution to the normal equations, it is clear that the Gram-Schmidt procedure can be interpreted as a procedure for inverting the Gram matrix. Conversely, many effective algorithms for solving the normal equations have an interpretation in terms of the minimum norm problem in Hilbert space. (p. 63)