Forventningsverdi

Forventningsverdien $E[X]$ (også kalt forventning eller middelverdi $\mu$) er det sannsynlighetsvektede gjennomsnittet av alle mulige verdier. For diskrete variabler summerer man, for kontinuerlige integrerer man:

Grunnregel — Forventning

Diskret: $E[X]=\sum_x x\,p(x)$

Kontinuerlig: $E[X]=\int_{-\infty}^{\infty} x\,f(x)\,dx$

Funksjon av $X$ (LOTUS): $E[g(X)]=\sum_x g(x)p(x)$ eller $\int g(x)f(x)\,dx$. Generelt er $E[g(X)]\neq g(E[X])$.

Den viktigste egenskapen er linearitet: $E[aX+bY+c]=aE[X]+bE[Y]+c$. Denne gjelder uansett om $X$ og $Y$ er avhengige, og er det mest brukte verktøyet på eksamen.

Eksempel 1 — Diskret forventning

En variabel har $P(X=0)=0{,}2$, $P(X=1)=0{,}5$, $P(X=2)=0{,}3$.

$E[X]=0\cdot0{,}2+1\cdot0{,}5+2\cdot0{,}3=0+0{,}5+0{,}6=1{,}1$.

Med linearitet: $E[3X-2]=3\cdot1{,}1-2=1{,}3$.

Varians og standardavvik

Variansen måler forventet kvadratisk avvik fra forventningen. Standardavviket $\sigma=\sqrt{\text{Var}(X)}$ har samme enhet som $X$ og er lettere å tolke.

Grunnregel — Varians

Definisjon: $\text{Var}(X)=E[(X-\mu)^2]$, der $\mu=E[X]$.

Regneformel: $\text{Var}(X)=E[X^2]-(E[X])^2$.

Standardavvik: $\text{SD}(X)=\sigma=\sqrt{\text{Var}(X)}\ge 0$.

Eksempel 2 — Varians via andre moment

Kontinuerlig variabel med tetthet $f(x)=2x$ på $[0,1]$.

$E[X]=\int_0^1 x\cdot 2x\,dx=\int_0^1 2x^2\,dx=\tfrac{2}{3}$.

$E[X^2]=\int_0^1 x^2\cdot 2x\,dx=\int_0^1 2x^3\,dx=\tfrac{1}{2}$.

$\text{Var}(X)=E[X^2]-(E[X])^2=\tfrac{1}{2}-\left(\tfrac{2}{3}\right)^2=\tfrac{1}{2}-\tfrac{4}{9}=\tfrac{1}{18}\approx 0{,}056$.

Regneregler

Under lineære transformasjoner og summer gjelder:

Grunnregel — Transformasjoner og summer

$\text{Var}(aX+b)=a^2\,\text{Var}(X)$ (konstanten $b$ forsvinner).

$\text{Var}(X+Y)=\text{Var}(X)+\text{Var}(Y)+2\,\text{Cov}(X,Y)$.

Ved uavhengighet: $\text{Cov}(X,Y)=0$, så $\text{Var}(X\pm Y)=\text{Var}(X)+\text{Var}(Y)$.

Kovarians: $\text{Cov}(X,Y)=E[XY]-E[X]E[Y]$; uavhengige $\Rightarrow E[XY]=E[X]E[Y]$.

Eksempel 3 — Varians av lineær kombinasjon

$X$ og $Y$ uavhengige med $\text{Var}(X)=4$, $\text{Var}(Y)=2$. Finn $\text{Var}(2X-3Y)$.

$\text{Var}(2X-3Y)=2^2\text{Var}(X)+(-3)^2\text{Var}(Y)=4\cdot4+9\cdot2=16+18=34$.

Merk: fortegnene kvadreres bort, og det er ingen kovariansledd siden variablene er uavhengige.

En sentral anvendelse er utvalgsgjennomsnittet. For uavhengige $X_1,\dots,X_n$ med felles varians $\sigma^2$ er $\text{Var}(\bar X)=\frac{\sigma^2}{n}$ — spredningen avtar med utvalgsstørrelsen, og standardfeilen blir $\sigma/\sqrt{n}$.

Momenter

Momenter generaliserer forventning og varians. Det $n$-te momentet om origo er $\mu_n'=E[X^n]$, og det $n$-te sentralmomentet er $\mu_n=E[(X-\mu)^n]$.

Grunnregel — Momenter

Første origo-moment: $E[X]$ (forventning).

Andre sentralmoment: $E[(X-\mu)^2]=\text{Var}(X)$.

Første sentralmoment er alltid $0$: $E[X-\mu]=0$.

Momentgenererende funksjon: $M_X(t)=E[e^{tX}]$, med $E[X^n]=M_X^{(n)}(0)$.

Tredje sentralmoment ligger bak skjevhet (asymmetri). Variansformelen $\text{Var}(X)=E[X^2]-(E[X])^2$ er i praksis en relasjon mellom andre moment og kvadratet av første moment. Estimatoren $S^2=\frac{1}{n-1}\sum(X_i-\bar X)^2$ bruker $n-1$ i nevneren nettopp for å være forventningsrett: $E[S^2]=\sigma^2$.

Studieguide: Forventning og varians

Studieguide: Forventning og varians