Modelldiagnostikk handler om å sjekke om forutsetningene for regresjonsmodellen er oppfylt. Brudd på forutsetningene kan gi upålitelige estimater og feilaktige konklusjoner.

Forutsetninger for OLS

De fire klassiske forutsetningene:

1. Linearitet: Sammenhengen mellom $Y$ og $X$ er lineær.

2. Homoskedastisitet: $\text{Var}(\varepsilon_i) = \sigma^2$ (konstant varians).

3. Normalitet: $\varepsilon_i \sim N(0, \sigma^2)$ (normalfordelte feilledd).

4. Ingen autokorrelasjon: $\text{Cov}(\varepsilon_i, \varepsilon_j) = 0$ for $i \neq j$.

Residualanalyse

Residualplott ($e_i$ mot $\hat{Y}_i$ eller $X_i$):

Ideelt: tilfeldig spredning rundt null, uten systematisk mønster.

Traktform = heteroskedastisitet. Buet mønster = manglende linearitet. Syklisk mønster = autokorrelasjon.

Normalplot (Q-Q-plott):

Plotter residualene mot forventede normalkvantiler. Hvis punktene ligger langs en rett linje, er normalitetsforutsetningen oppfylt.

Avvik i halene = tunge haler. S-form = skjevhet.

Heteroskedastisitet

Konsekvenser:

OLS-estimater er fortsatt forventningsrette, men ikke effisiente. Standardfeilene blir feil, og dermed blir t-tester og KI upålitelige.

Løsninger: White-robuste standardfeil (heteroskedastisitets-konsistente), transformasjon av variabler (f.eks. logaritme), vektet minste kvadrater (WLS).

Autokorrelasjon

Durbin-Watson-testen:

$DW = \frac{\sum_{i=2}^{n}(e_i - e_{i-1})^2}{\sum_{i=1}^{n} e_i^2}$

$DW \approx 2$: ingen autokorrelasjon. $DW < 2$: positiv autokorrelasjon. $DW > 2$: negativ autokorrelasjon.

Kritiske verdier $d_L$ og $d_U$ fra tabellen. Forkast $H_0$ (ingen autokorrelasjon) hvis $DW < d_L$.

Innflytelsesrike observasjoner

Leverage og Cook's avstand:

Leverage ($h_{ii}$): Måler hvor ekstremt en observasjon ligger i $X$-rommet. Høy leverage = observasjonen kan ha stor innflytelse.

Cook's avstand ($D_i$): Kombinerer leverage og residualstørrelse. $D_i > 1$ indikerer innflytelsesrik observasjon.

Modellvalg

Kriterier for modellvalg:

Justert $R^2$ — velg modellen med høyest $\bar{R}^2$.

AIC (Akaike Information Criterion) — velg modellen med lavest AIC.

BIC (Bayesian Information Criterion) — velg modellen med lavest BIC. BIC straffer ekstra parametere hardere enn AIC.

Prinsipp: Parsimoni — velg den enkleste modellen som forklarer dataene godt.

Eksempel: Tolkning av residualplott

Et residualplott viser at spredningen av residualene øker med $\hat{Y}$ (traktmønster). Durbin-Watson-testen gir $DW = 1{,}95$.

Heteroskedastisitet: Traktmønsteret i residualplottet indikerer heteroskedastisitet — variansen i feilleddet er ikke konstant.

Konsekvens: OLS-estimatene er fortsatt forventningsrette, men standardfeilene er upålitelige. Bruk White-robuste standardfeil.

Autokorrelasjon: $DW = 1{,}95 \approx 2$, noe som tyder på at det ikke er autokorrelasjon.

Mulig løsning: Prøv logaritmisk transformasjon: $\ln(Y) = \beta_0 + \beta_1 X + \varepsilon$.

Studieguide: Modelldiagnostikk