Fra utvalg til populasjon

Statistisk inferens handler om å trekke slutninger om populasjonsparametere (f.eks. $\mu$, $\beta$) på grunnlag av utvalgsstatistikker (f.eks. $\bar{x}$, $\hat{\beta}$). Fordi utvalget er tilfeldig, er statistikker tilfeldige variabler med en fordeling – stikkprøvefordelingen.

Standardfeil

Standardfeilen (SE) er standardavviket til stikkprøvefordelingen for en estimator. For gjennomsnittet: $SE_\bar{x} = s/\sqrt{n}$. For en regresjonskoeffisient $\hat{\beta}$ er formelen mer kompleks, men prinsippet er det samme: jo større N og jo lavere varians i residualene, desto lavere SE. Lav SE betyr mer presist estimat.

Konfidensintervaller

Et 95 % konfidensintervall (KI) er et intervall konstruert slik at 95 % av alle konfidensintervaller konstruert på samme måte fra gjentatte utvalg vil inneholde den sanne populasjonsparameteren. For et gjennomsnitt: $\bar{x} \pm 1{,}96 \cdot SE$ (ved stor N). For en regresjonskoeffisient: $\hat{\beta} \pm t_{crit} \cdot SE_{\hat{\beta}}$. Dersom KI for $\beta$ ikke inneholder 0, er koeffisienten statistisk signifikant på det tilsvarende nivået.

Hypotesetesting og p-verdier

Nullhypotesen ($H_0$) er typisk at det ikke finnes en effekt: $H_0: \beta = 0$. Alternativhypotesen ($H_1$): $\beta \neq 0$ (tosidig). P-verdien er sannsynligheten for å observere en testobservator like ekstrem eller mer ekstrem enn den observerte, gitt at $H_0$ er sann. Lav p-verdi (under 0,05 er den vanligste grensen) gir grunnlag for å forkaste $H_0$.

T-statistikken for en regresjonskoeffisient: $t = \hat{\beta} / SE_{\hat{\beta}}$. Dersom $|t| > t_{crit}$ (ca. 1,96 for $n > 100$ ved $\alpha = 0{,}05$), forkastes $H_0$.

Type I- og type II-feil

Type I-feil (falsk positiv): vi forkaster $H_0$ når den er sann. Sannsynligheten er $\alpha$ (signifikansnivå). Type II-feil (falsk negativ): vi beholder $H_0$ når den er usann. Sannsynligheten er $\beta$ (ikke å forveksle med regresjonskoeffisienten). Statistisk styrke = $1 - \beta$ = sannsynligheten for å oppdage en effekt dersom den finnes. Økt N reduserer begge feiltyper.

Eksempel: Tolkning av p-verdi fra R-output

R-output fra en regresjon viser: Estimate = 3,2; Std. Error = 1,1; t value = 2,91; Pr(>|t|) = 0,004. Tolkning: Koeffisienten er estimert til 3,2. T-statistikken (2,91) overstiger den kritiske verdien (~1,96 for α = 0,05), og p-verdien (0,004) er under 0,05. Vi forkaster $H_0: \beta = 0$ og konkluderer at koeffisienten er statistisk signifikant på 5 %-nivå (og 1 %-nivå). 95 % KI ≈ 3,2 ± 1,96·1,1 = [1,04 ; 5,36] – inneholder ikke 0.

Eksempel: T-test for hånd med t-tabell (eksamensstil, 5p)

En regresjon med to uavhengige variabler har N = 33. Koeffisienten til X1 er $b = 1703$ med $SE(b) = 1100$. Test om den er signifikant på 1 %-nivå. Gå alltid trinnvis (rekkefølgen er ikke kritisk, men vis alle trinn):

Frihetsgrader: $df = N - k - 1 = 33 - 2 - 1 = 30$.
Kritisk t-verdi fra t-tabellen (df = 30, 1 %): ≈ 2,75.
Observert t-verdi: $t = b/SE(b) = 1703/1100 \approx 1{,}55$.
Konklusjon: $|1{,}55| < 2{,}75$, så vi beholder $H_0$ – koeffisienten er ikke signifikant på 1 %-nivå.

Alternativt, hvis p-verdien er oppgitt: koeffisienten er signifikant på nivå α hvis p < α. Eksempel: p = 0,073 er signifikant på 10 %-nivå (0,073 < 0,10), men ikke på 5 %-nivå.

Eksempel: Finn standardfeilen når b og t er oppgitt

Hvis en tabell oppgir $b = 1{,}00$ og $t = 2{,}45$, men ikke SE, bruk at $t = b/SE(b)$, altså $SE(b) = b/t = 1{,}00/2{,}45 \approx 0{,}41$. Dette er en vanlig liten Del 2-utregning (2–3p).

Studieguide: Statistisk inferens og hypotesetesting