---
kurs:
  - M0067M
tags:
  - linjär-algebra
  - approximation
förkunskaper:
  - "[[Skalärprodukt]]"
  - "[[Linjära ekvationssystem]]"
status: true
aliases:
  - Least squares
  - MK-lösning
---
> **Kurs:** M0067M
> **Förkunskaper:** [[Skalärprodukt]], [[Linjära ekvationssystem]]

---

När $Ax=b$ saknar lösning (överbestämt system) söker man det $\hat x$ som minimerar $\|Ax-b\|$.

## Normalekvationen

$$
\boxed{A^T A\,\hat x = A^T b}
$$

Om $A$ har [[Linjärt beroende och oberoende|linjärt oberoende]] kolonner är $A^T A$ inverterbar och

$$
\hat x=(A^T A)^{-1}A^T b.
$$

## Geometrisk tolkning

$A\hat x$ är den ortogonala projektionen av $b$ på $\operatorname{Col}(A)$. Residualen $b-A\hat x$ är ortogonal mot $\operatorname{Col}(A)$.

## Användning

- Linjär regression
- Kurvanpassning
- Dataapproximation

## Läsning

- [[z.Calculus A Complete Course 10th.pdf#page=823|14.5 The Method of Least Squares]]

## Se även

- [[Ortogonalitet]]
- [[Gram-Schmidt-processen]]
- [[Skalärproduktsrum]]