Minstakvadratmetoden

Kurs: M0067M Förkunskaper: Skalärprodukt, Linjära ekvationssystem

---

När $Ax=b$ saknar lösning (överbestämt system) söker man det $\hat{x}$ som minimerar $\Vert Ax-b\Vert$.

Normalekvationen

$$\boxed{A^{T}A\hat{x}=A^{T}b}$$

Om $A$ har linjärt oberoende kolonner är $A^{T}A$ inverterbar och

$$\hat{x}=(A^{T}A{)}^{-1}{A}^{T}b.$$

Geometrisk tolkning

$A\hat{x}$ är den ortogonala projektionen av $b$ på $\mathrm{Col}(A)$. Residualen $b-A\hat{x}$ är ortogonal mot $\mathrm{Col}(A)$.

Användning

• Linjär regression
• Kurvanpassning
• Dataapproximation

Läsning

• 14.5 The Method of Least Squares

Se även

• Ortogonalitet
• Gram-Schmidt-processen
• Skalärproduktsrum