Korrelation

Kurs: S0008M Förkunskaper: Kovarians

---

Kovariansen mäter hur två stokastiska variabler samvarierar. Korrelationskoefficienten är den normerade varianten, som alltid ligger mellan $-1$ och $1$ och mäter det linjära beroendet — korrelation noll betyder att linjärt samband saknas, men inte nödvändigtvis att variablerna är oberoende.

---

1. Definitionen

Definition 1.18 (kompendiet). Korrelationskoefficienten mellan ${\xi }_1$ och ${\xi }_2$ är

$$\boxed{\rho ({\xi }_1,{\xi }_2)=\frac{\text{Cov}({\xi }_1,{\xi }_2)}{\sqrt{V({\xi }_1)V({\xi }_2)}}=\frac{\text{Cov}({\xi }_1,{\xi }_2)}{{\sigma }_1{\sigma }_2}}$$

Vi skriver ibland ${\rho }_{12}$, eller bara $\rho$ när det är tydligt vilka variabler som avses. Divisionen med standardavvikelserna gör måttet dimensionslöst: det påverkas inte av om vi mäter i meter eller centimeter.

---

2. Gränserna

Det gäller alltid att

$$\boxed{-1\le \rho ({\xi }_1,{\xi }_2)\le 1}$$

med likhet om och endast om ${\xi }_2$ är en linjär funktion av ${\xi }_1$, alltså ${\xi }_2=a{\xi }_1+b$. Tecknet på $\rho$ är tecknet på $a$.

$\rho$	Tolkning
nära $1$	starkt positivt linjärt samband
nära $0$	inget linjärt samband — variablerna är okorrelerade
nära $-1$	starkt negativt linjärt samband

Molnen visar observationspar från fyra fördelningar. Ju närmare $|\rho |$ är $1$, desto tätare ligger punkterna kring en linje.

---

3. Okorrelerad är inte oberoende

$\rho =0$ betyder inte oberoende

Oberoende variabler har alltid $\text{Cov}=0$ och är alltså okorrelerade. Men det omvända gäller inte: $\rho$ fångar bara linjärt beroende. Är $(\xi ,\eta )$ likformigt fördelad på en cirkelskiva är $\rho =0$ av symmetriskäl, men variablerna är beroende — vet vi att $\xi$ är nära $1$ måste $\eta$ vara nära $0$.

Undantaget är den tvådimensionella normalfördelningen, där okorrelerade variabler också är oberoende.

---

4. Hur $\rho$ påverkas av linjära omskrivningar

Ur räknereglerna för kovarians följer, för konstanter $a>0$ och $b$:

$$\rho (a{\xi }_1+b,{\xi }_2)=\rho ({\xi }_1,{\xi }_2),\rho (-{\xi }_1,{\xi }_2)=-\rho ({\xi }_1,{\xi }_2)$$

Att skala om eller flytta en variabel ändrar inte styrkan i sambandet, men att byta tecken vänder riktningen.

---

5. Lösta lektionsuppgifter

Övningarna märkta Kompendiet kommer ur kompendiet om flerdimensionella fördelningar. Det saknar facit, så de är lösta två gånger oberoende av varandra.

Lektion 18, övning 1 — Kovarians och korrelation för omskrivna variabler

Slumpvariablerna ${\xi }_1$ och ${\xi }_2$ har väntevärden ${\mu }_1,{\mu }_2$ och standardavvikelser ${\sigma }_1,{\sigma }_2$. Låt $\rho =\rho ({\xi }_1,{\xi }_2)$. Använd definitionerna för att bestämma kovarians och korrelation nedan, och kommentera om korrelationen beter sig som ett mått på linjärt samband.

a) $\text{Cov}({\xi }_1,{\xi }_1)$ och $\rho ({\xi }_1,{\xi }_1)$

b) $\text{Cov}({\xi }_1,2{\xi }_1)$ och $\rho ({\xi }_1,2{\xi }_1)$

c) $\text{Cov}({\xi }_1+a,{\xi }_2)$ och $\rho ({\xi }_1+a,{\xi }_2)$, där $a$ är en konstant

d) $\text{Cov}({\xi }_1,-{\xi }_2)$ och $\rho ({\xi }_1,-{\xi }_2)$

e) $\text{Cov}({\xi }_1+{\xi }_2,{\xi }_3)$ och $\rho ({\xi }_1+{\xi }_2,{\xi }_3)$, där ${\xi }_3$ har väntevärde ${\mu }_3$ och standardavvikelse ${\sigma }_3$, och $\rho ({\xi }_1,{\xi }_3)={\rho }_{13}$, $\rho ({\xi }_2,{\xi }_3)={\rho }_{23}$

Lösning

a) $\text{Cov}({\xi }_1,{\xi }_1)=E(({\xi }_1-{\mu }_1{)}^2)=\boxed{{\sigma }_1^2}$, och $\rho ={\sigma }_1^2/({\sigma }_1{\sigma }_1)=\boxed{1}$. En variabel har perfekt linjärt samband med sig själv.

b) $2{\xi }_1$ har väntevärde $2{\mu }_1$ och standardavvikelse $2{\sigma }_1$:

$$\text{Cov}({\xi }_1,2{\xi }_1)=E(({\xi }_1-{\mu }_1)\cdot 2({\xi }_1-{\mu }_1))=\boxed{2{\sigma }_1^2},\rho =\frac{2{\sigma }_1^2}{{\sigma }_1\cdot 2{\sigma }_1}=\boxed{1}$$

Kovariansen ändras med skalan, korrelationen inte.

c) ${\xi }_1+a$ har väntevärde ${\mu }_1+a$, så avvikelsen är oförändrad, $({\xi }_1+a)-({\mu }_1+a)={\xi }_1-{\mu }_1$:

$$\text{Cov}({\xi }_1+a,{\xi }_2)=\boxed{\rho {\sigma }_1{\sigma }_2},\rho ({\xi }_1+a,{\xi }_2)=\boxed{\rho }$$

d) Avvikelsen för $-{\xi }_2$ är $-({\xi }_2-{\mu }_2)$ och standardavvikelsen fortfarande ${\sigma }_2$:

$$\text{Cov}({\xi }_1,-{\xi }_2)=\boxed{-\rho {\sigma }_1{\sigma }_2},\rho ({\xi }_1,-{\xi }_2)=\boxed{-\rho }$$

Sambandet är lika starkt men går åt andra hållet.

e) Kovariansen är additiv i första argumentet:

$$\text{Cov}({\xi }_1+{\xi }_2,{\xi }_3)=\text{Cov}({\xi }_1,{\xi }_3)+\text{Cov}({\xi }_2,{\xi }_3)=\boxed{{\rho }_{13}{\sigma }_1{\sigma }_3+{\rho }_{23}{\sigma }_2{\sigma }_3}$$

Med kompendiets sats 1.17 är $V({\xi }_1+{\xi }_2)={\sigma }_1^2+{\sigma }_2^2+2\rho {\sigma }_1{\sigma }_2$, så

$$\rho ({\xi }_1+{\xi }_2,{\xi }_3)=\boxed{\frac{{\rho }_{13}{\sigma }_1{\sigma }_3+{\rho }_{23}{\sigma }_2{\sigma }_3}{{\sigma }_3\sqrt{{\sigma }_1^2+{\sigma }_2^2+2\rho {\sigma }_1{\sigma }_2}}}$$

Kommentar. I a)–d) beter sig $\rho$ som väntat för ett mått på linjärt samband: $\pm 1$ vid exakt linjärt samband, oförändrad vid flyttning och skalning, och teckenbyte när den ena variabeln byter tecken.

Facit: a) ${\sigma }_1^2$ resp. 1; b) $2{\sigma }_1^2$ resp. 1; c) $\rho {\sigma }_1{\sigma }_2$ resp. $\rho$; d) $-\rho {\sigma }_1{\sigma }_2$ resp. $-\rho$; e) som ovan.

Kompendiet, övning 1.16 — Räkneregler för kovarians och korrelation

Verifiera följande egenskaper, där $a$ och $b$ är konstanter:

a) $\text{Cov}(a{\xi }_1+b,{\xi }_2)=a\text{Cov}({\xi }_1,{\xi }_2)$

b) $\text{Cov}({\xi }_1+{\xi }_2,{\xi }_3)=\text{Cov}({\xi }_1,{\xi }_3)+\text{Cov}({\xi }_2,{\xi }_3)$

c) $\rho ({\xi }_1,-{\xi }_2)=-\rho ({\xi }_1,{\xi }_2)$

d) $\rho ({\xi }_1,a{\xi }_1+b)$ är lika med $-1$ eller $1$ (för $a\ne 0$).

Lösning

Använd $\text{Cov}({\xi }_1,{\xi }_2)=E({\xi }_1{\xi }_2)-{\mu }_1{\mu }_2$ och att väntevärdet är linjärt.

a) $E((a{\xi }_1+b){\xi }_2)=aE({\xi }_1{\xi }_2)+b{\mu }_2$ och $E(a{\xi }_1+b)E({\xi }_2)=a{\mu }_1{\mu }_2+b{\mu }_2$. Differensen är $a(E({\xi }_1{\xi }_2)-{\mu }_1{\mu }_2)=a\text{Cov}({\xi }_1,{\xi }_2)$.

b) $E(({\xi }_1+{\xi }_2){\xi }_3)-({\mu }_1+{\mu }_2){\mu }_3=(E({\xi }_1{\xi }_3)-{\mu }_1{\mu }_3)+(E({\xi }_2{\xi }_3)-{\mu }_2{\mu }_3)$, vilket är högerledet.

c) Med a) och $a=-1$, $b=0$ (rollerna ombytta, kovariansen är symmetrisk) är $\text{Cov}({\xi }_1,-{\xi }_2)=-\text{Cov}({\xi }_1,{\xi }_2)$. Standardavvikelsen för $-{\xi }_2$ är ${\sigma }_2$, så nämnaren i $\rho$ är oförändrad och tecknet byts.

d) Med a) är $\text{Cov}({\xi }_1,a{\xi }_1+b)=aV({\xi }_1)=a{\sigma }_1^2$, och $D(a{\xi }_1+b)=|a|{\sigma }_1$:

$$\rho ({\xi }_1,a{\xi }_1+b)=\frac{a{\sigma }_1^2}{{\sigma }_1\cdot |a|{\sigma }_1}=\frac{a}{|a|}=\boxed{\{\begin{array}{ll}1,& a>0\\ -1,& a<0\end{array}}$$

Ett exakt linjärt samband ger alltså alltid $|\rho |=1$, med tecknet efter lutningen.

Ej kontrollerat mot facit — två oberoende lösningar stämmer överens.

Kompendiet, övning 1.17 — Okorrelerade men beroende

Låt $({\xi }_1,{\xi }_2)$ vara likformigt fördelad på cirkelskivan med centrum i origo och radien $1$. Bestäm $\text{Cov}({\xi }_1,{\xi }_2)$. Är ${\xi }_1$ och ${\xi }_2$ okorrelerade? Är de oberoende?

Lösning

Kovariansen. Arean är $\pi$, så $f(x_1,x_2)=1/\pi$ på skivan. Skivan är symmetrisk kring båda axlarna, och integranderna $x_1$ och $x_1{x}_2$ är udda i $x_1$, så integralerna över skivan blir noll:

$${\mu }_1={\mu }_2=0,E({\xi }_1{\xi }_2)={\iint }_{x_1^2+x_2^2\le 1}\frac{x_1{x}_2}{\pi }d{x}_{1}d{x}_2=0$$

Alltså $\boxed{\text{Cov}({\xi }_1,{\xi }_2)=0}$, och variablerna är okorrelerade.

Oberoende? Nej. Marginalerna är $f_{{\xi }_1}(x_1)=\frac{2}{\pi }\sqrt{1-x_1^2}$ på $[-1,1]$, och likadant för ${\xi }_2$ (se Marginalfördelning). I punkten $(0,9;0,9)$, som ligger utanför skivan, är $f=0$ men produkten av marginalerna positiv. Alltså är $f(x_1,x_2)\ne f_{{\xi }_1}(x_1)f_{{\xi }_2}(x_2)$, och variablerna är beroende.

Det här är exemplet i avsnitt 3: vet vi att ${\xi }_1$ är nära $1$ måste ${\xi }_2$ vara nära $0$. Beroendet är inte linjärt, och därför syns det inte i $\rho$.

Ej kontrollerat mot facit — två oberoende lösningar stämmer överens.

---

Se även

• Kovarians
• Tvådimensionell normalfördelning
• Flerdimensionella fördelningar
• Oberoende stokastiska variabler

Resurser

• Khan Academy: Correlation coefficient
• Wikipedia: Korrelation

---

← Kovarians · S0008M · Tvådimensionell normalfördelning →