Ortogonalizacja Gram-Schmidt'a

Każdy zbiór liniowo niezależnych wektorów $v_1,\dots ,v_n$ może zostać ,,skonwertowany" do zbioru ortogonalnych wektorów $q_1,\dots ,q_n$ poprzez proces Gram-Schmidt'a. Rozpatrzmy sytuacje dla trzech wymiarów; wektor $v_1$ wyznacza prostą; wektory $v_1$ i $v_2$ wyznaczają płaszczyznę. Wektor $q_1$ jest wektorem jednostkowym równoległym do wektora $v_1$ . Wektor (jednostkowy) $q_2$ leży na płaszczyźnie wektorów $v_1$ ,$v_2$ i jest normalny do wektora $v_1$ . Wektor (jednostkowy) $q_3$ jest normalny do płaszczyzny wektorów $v_1$ , $v_2$ etc.
W ogólnosci przyjmujemy, że $u_1=v_1$ , a każdy kolejny wektor $u_i$ jest ortogonalny do pozostałych $u_1, \dots ,u_{i-1}$ :

$$u_i=v_i-\sum_{j=1}^{i=1}u_j\frac{u^T_jv_i}{u_j^Tuj}$$.

Baza $i$ wektorów $u_i$ generuje tą sama podprzestrzeń co baza wektorów $v_i$ . Wektory $q_i=\frac{u_i}{\Vert u_i \Vert}$ sa ortonormalne. To prowadzi do następującego twierdzenia:
Każda macierz $A$ o wymiarach $m \times n$ z liniowo niezależnymi kolumnami (wektorami) może być zdekomponowana w iloczyn $A=QR$ , gdzie kolumny macierzy Q są ortonormalne, a macierz R jest górna trójkątna i odwracalna.