Oversikt

Korrelasjon er et av tre hovedområder i emnets læringsutbytte for generell kompetanse: studenten skal kunne «skille korrelasjon fra kausasjon». Målt i vekt på eksamen er temaet mindre enn sannsynlighetsregning og testing — det forekommer i 4 av de 14 settene fra 2018 til 2026 — men i den formen det opptrer, er det viktig: en cor()-beregning med tolkning, og en drøfting av om en observert sammenheng kan tolkes kausalt.

Et etterprøvbart avgrensningspunkt: enkel og multippel regresjon forekommer ikke i noe ECON2130-oppgavesett fra 2015 til 2026. Siste gang regresjon ble testet var vårterminen 2014. Regresjonsanalyse hører til oppfølgingsemnene. Det du trenger her, er kovarians, korrelasjon og kausal resonnering.

Kovarians

\[ \mathrm{Cov}(X,Y)=E\big[(X-E(X))(Y-E(Y))\big]=E(XY)-E(X)E(Y). \]

Den siste formen er nesten alltid raskest å regne med.

Gjennomregnet eksempel. \(X\) = antall biler (0, 1, 2) og \(Y\) = antall yrkesaktive voksne (1 eller 2) i en husholdning:

\(P(X=x,Y=y)\)	\(x=0\)	\(x=1\)	\(x=2\)
\(y=1\)	0,12	0,20	0,08
\(y=2\)	0,04	0,26	0,30

Marginalene: \(P(X=0)=0{,}16\), \(P(X=1)=0{,}46\), \(P(X=2)=0{,}38\); \(P(Y=1)=0{,}40\), \(P(Y=2)=0{,}60\).

\[ E(X)=0{,}46+2\cdot 0{,}38=1{,}22,\qquad E(Y)=0{,}40+2\cdot 0{,}60=1{,}60. \] \[ E(XY)=1\cdot 1\cdot 0{,}20+2\cdot 1\cdot 0{,}08+1\cdot 2\cdot 0{,}26+2\cdot 2\cdot 0{,}30=0{,}20+0{,}16+0{,}52+1{,}20=2{,}08. \] \[ \mathrm{Cov}(X,Y)=2{,}08-1{,}22\cdot 1{,}60=2{,}08-1{,}952=0{,}128. \]

Positiv kovarians: husholdninger med to yrkesaktive har flere biler.

Korrelasjon

\[ \rho_{XY}=\frac{\mathrm{Cov}(X,Y)}{SD(X)\,SD(Y)},\qquad -1\le\rho\le 1. \]

Vi fortsetter eksempelet. \(E(X^{2})=0{,}46+4\cdot 0{,}38=1{,}98\), så \(\mathrm{Var}(X)=1{,}98-1{,}4884=0{,}4916\) og \(SD(X)=0{,}70114\). For \(Y\): \(E(Y^{2})=0{,}40+4\cdot 0{,}60=2{,}80\), \(\mathrm{Var}(Y)=2{,}80-2{,}56=0{,}24\), \(SD(Y)=0{,}48990\). Dermed

\[ \rho_{XY}=\frac{0{,}128}{0{,}70114\cdot 0{,}48990}=\frac{0{,}128}{0{,}34349}=0{,}373. \]

Hvorfor korrelasjon framfor kovarians? Kovariansen har måleenhet — her «biler ganger personer». Byttes måleenheten (kroner i stedet for tusen kroner), multipliseres kovariansen med 1000 uten at samvariasjonen er blitt sterkere. Tallet 0,128 er derfor i seg selv ikke tolkbart. Korrelasjonen er dimensjonsløs og sammenlignbar på tvers av variabler.

Invarians. For \(a>0\) er

\[ \rho_{(aX+b),\,Y}=\frac{a\,\mathrm{Cov}(X,Y)}{a\,SD(X)\,SD(Y)}=\rho_{XY}. \]

Måler vi \(X\) i antall hjul i stedet for antall biler (\(X^{*}=4X\)), blir kovariansen \(0{,}512\) og \(SD(X^{*})=2{,}80456\), men \(\rho\) er fortsatt 0,373.

Korrelasjon fra data og R-utskrift

Regner du fra kvadratsummer, forkorter \(n-1\) bort:

\[ r=\frac{\sum(x_i-\bar x)(y_i-\bar y)}{\sqrt{\sum(x_i-\bar x)^{2}\cdot\sum(y_i-\bar y)^{2}}}. \]

Får du en R-utskrift med kovarians og standardavvik, er det bare å dele:

> cov(d[["utdanning"]], d[["inntekt"]])
[1] 155.4
> sd(d[["utdanning"]])
[1] 2.8
> sd(d[["inntekt"]])
[1] 148.0

\[ r=\frac{155{,}4}{2{,}8\cdot 148{,}0}=\frac{155{,}4}{414{,}4}=0{,}375. \]

Et nyttig tolkningsanker: \(r^{2}=0{,}141\), altså samvarierer ca. 14 % av variasjonen i inntekt lineært med utdanning. Resten skyldes andre forhold.

Hva korrelasjon ikke fanger opp

1. Ikke-lineære sammenhenger. Stiger inntekt med alder fram til ca. 55 år og faller etterpå, kan \(r\) bli nær null selv om sammenhengen er sterk — den stigende og den fallende delen nøytraliserer hverandre. Bare et spredningsdiagram avslører buen.

2. Uteliggere. \(r\) bygger på produkter av avvik, så ett ekstremt punkt får stor vekt. I små utvalg kan én observasjon alene flytte \(r\) fra nær null til tydelig positiv.

3. Uavhengighet. \(\rho=0\) betyr ikke uavhengighet. La \(U\) være uniform på \(\{-2,-1,1,2\}\) og \(V=U^{2}\). Da er \(E(U)=0\) og \(E(UV)=E(U^{3})=0\), så \(\mathrm{Cov}(U,V)=0\) — men \(V\) er en funksjon av \(U\). Unntaket er simultant normalfordelte variabler: der medfører \(\rho=0\) faktisk uavhengighet.

4. Bratthet. \(r\) måler hvor tett punktene ligger rundt en linje, ikke hvor bratt linjen er. To fylker kan ha helt ulik \(r\) og likevel samme inntektsgevinst per utdanningsår, fordi spredningen i utdanning er ulik (avkortet variasjonsbredde gir mekanisk lavere \(r\)).

5. Felles trend. To tidsserier som begge vokser omtrent lineært over tid, får høy \(r\) uansett om de har noe med hverandre å gjøre. Se derfor på endringer i stedet for nivåer, eller sammenlign på tvers av enheter i stedet for over tid.

Korrelasjon i variansformelen

\[ \mathrm{Var}(X+Y)=\mathrm{Var}(X)+\mathrm{Var}(Y)+2\mathrm{Cov}(X,Y). \]

I eksempelet over: \(\mathrm{Var}(X+Y)=0{,}4916+0{,}24+0{,}256=0{,}9876\), mot 0,7316 hvis vi feilaktig utelot kovariansleddet — en undervurdering på 26 %.

Portefølje. To aktiva med \(\mathrm{Var}(R_1)=0{,}04\), \(\mathrm{Var}(R_2)=0{,}09\) og \(\rho=-0{,}5\) gir \(\mathrm{Cov}=-0{,}5\cdot 0{,}20\cdot 0{,}30=-0{,}03\). Med lik vekting:

\[ \mathrm{Var}(R_p)=0{,}25\cdot 0{,}04+0{,}25\cdot 0{,}09+2\cdot 0{,}25\cdot(-0{,}03)=0{,}0175, \]

mot 0,0325 ved \(\rho=0\). Negativ korrelasjon nesten halverer risikoen — mekanismen bak diversifisering.

Korrelerte observasjoner. Har alle \(X_i\) parvis korrelasjon \(\rho\), er \(\mathrm{Var}(\bar X)=\frac{\sigma^{2}}{n}[1+(n-1)\rho]\). For \(\rho>0\) går den mot \(\rho\sigma^{2}\), ikke mot null. Bruker vi \(\sigma/\sqrt n\) likevel, blir standardfeilen systematisk for liten.

Fra korrelasjon til kausalitet

Dette er den delen eksamen faktisk tester. Når vi finner en sammenheng mellom \(X\) og \(Y\), finnes minst fem forklaringer i tillegg til at \(X\) forårsaker \(Y\):

Bakenforliggende variabel (konfundering). En tredje faktor påvirker begge. Sammenhengen mellom kaffedrikking og inntekt kan skyldes yrkestype.
Omvendt kausalitet. Årsaksretningen kan gå motsatt vei: høy inntekt gir råd til kaffe.
Seleksjon. Måten utvalget er samlet inn på skaper sammenhengen.
Tilfeldighet. Med mange undersøkte sammenhenger vil noen bli signifikante ved ren flaks.
Målefeil.

Det kontrafaktiske rammeverket. La \(Y_i(1)\) og \(Y_i(0)\) være utfallene for person \(i\) med og uten behandling. Den kausale effekten er

\[ \tau_i=Y_i(1)-Y_i(0). \]

Vi observerer alltid bare ett av de to — det andre skjedde aldri. Det vi faktisk måler, er \(E[Y\mid D=1]-E[Y\mid D=0]\), som bare er lik gjennomsnittseffekten hvis de behandlede, uten behandling, i gjennomsnitt ville hatt samme utfall som de ubehandlede faktisk har.

Randomisering. Trekkes behandlingsstatus tilfeldig, blir den uavhengig av de potensielle utfallene og av alle egenskaper ved personen — både målte og umålte. Da er

\[ E[Y\mid D=1]-E[Y\mid D=0]=E[Y(1)]-E[Y(0)]=E[\tau], \]

og gruppedifferansen er forventningsrett for gjennomsnittseffekten. To forbehold: randomisering fjerner systematisk skjevhet, ikke tilfeldig variasjon (vi trenger fortsatt standardfeil og test), og frafall som henger sammen med behandlingen kan gjeninnføre skjevhet.

Eksamensformuleringen er typisk: «Er det riktig å konkludere fra det du fant i oppgave f) at vi kan forvente at BNP per innbygger i Afghanistan vil gå opp hvis landet blir mer demokratisk?» Svaret er nei: land velger ikke styreform tilfeldig, og de forholdene som gjør et land demokratisk henger sammen med mange andre forhold som påvirker BNP. Testen viser at gruppene er forskjellige, ikke hvorfor.

Studieguide: Korrelasjon