To metoder for å finne fordelingen til $Y=g(X)$

Transformasjonsformelen gjelder når $g$ er strengt monoton og deriverbar:

$$f_Y(y)=f_X\!\left(g^{-1}(y)\right)\left|\frac{d}{dy}g^{-1}(y)\right|.$$

Jacobi-faktoren korrigerer for at transformasjonen strekker eller komprimerer skalaen, slik at $f_Y$ fortsatt integrerer til 1. Oppgi ALLTID hvilket område $y$ ligger i.

KF-metoden er ofte tryggere: skriv $F_Y(y)=P(g(X)\le y)$, oversett hendelsen til et utsagn om $X$, sett inn $F_X$, og deriver til slutt. Metoden håndterer også ikke-monotone transformasjoner.

Eksempel:

$Z\sim N(0,1)$, $Y=Z^2$. Her er $g$ ikke monoton, så vi bruker KF-metoden: $F_Y(y)=P(-\sqrt{y}\le Z\le\sqrt{y})=2\Phi(\sqrt{y})-1$. Derivasjon gir $f_Y(y)=\frac{1}{\sqrt{2\pi y}}e^{-y/2}$, altså $Y\sim\chi^2_1$.

To transformasjoner du bør kjenne igjen: $F_X(X)\sim\text{Uniform}(0,1)$ (sannsynlighetsintegraltransformasjonen), og $cX\sim\text{Exp}(\lambda/c)$ når $X\sim\text{Exp}(\lambda)$.

Ordningsvariabler

$X_{(k)}$ er den $k$-te minste verdien i utvalget. De to viktigste er:

$$F_{\max}(x)=[F(x)]^n,\qquad F_{\min}(x)=1-[1-F(x)]^n.$$

Begrunnelsen er enkel: maksimum er $\le x$ hvis og bare hvis ALLE observasjonene er det, og minimum er $>x$ hvis og bare hvis alle er det. For eksponentialfordelte levetider gir dette $\min X_i\sim\text{Exp}(n\lambda)$ — et seriesystem har $1/n$ av komponentenes forventede levetid.

Generelt kan ALLE spørsmål om ordningsvariabler føres tilbake til en binomisk telling: antallet observasjoner som er $\le x$ er $\text{bin}(n,F(x))$. Derfor er

$$P(X_{(k)}\le x)=\sum_{j=k}^{n}\binom{n}{j}F(x)^j[1-F(x)]^{n-j}.$$

For $\text{Uniform}(0,\theta)$ er $F_M(m)=(m/\theta)^n$ og $f_M(m)=nm^{n-1}/\theta^n$, som gir $E[M]=\frac{n}{n+1}\theta$. Maksimum er altså systematisk for lite — det kan aldri overskride $\theta$ — og $\frac{n+1}{n}M$ er den forventningsrette korreksjonen.

Momentgenererende funksjoner

$$M_X(t)=E\!\left[e^{tX}\right],\qquad M_X(0)=1.$$

Rekkeutvikling gir $M_X(t)=\sum_{k\ge 0}\frac{t^k}{k!}E[X^k]$, så $M^{(k)}(0)=E[X^k]$. Spesielt er $E[X]=M'(0)$ og $\text{Var}(X)=M''(0)-[M'(0)]^2$.

De to regnereglene:

For UAVHENGIGE $X$ og $Y$: $M_{X+Y}(t)=M_X(t)M_Y(t)$. For lineær transformasjon: $M_{aX+b}(t)=e^{bt}M_X(at)$. Sammen med ENTYDIGHETSTEOREMET — samme momentgenererende funksjon betyr samme fordeling — er dette hele verktøykassen.

Standardliste: Bernoulli$(p)$: $1-p+pe^t$. Binomisk: $(1-p+pe^t)^n$. Poisson$(\mu)$: $e^{\mu(e^t-1)}$. Normal: $e^{\mu t+\sigma^2t^2/2}$. Gamma$(\alpha,\beta)$: $(1-\beta t)^{-\alpha}$. Kjikvadrat: $(1-2t)^{-\nu/2}$.

Typiske bevis

Summen av $n$ uavhengige Bernoulli$(p)$: $M(t)=(1-p+pe^t)^n$, altså binomisk. Summen av uavhengige gammavariabler med samme skala: $(1-\beta t)^{-n\alpha}$, altså gamma med formparameter $n\alpha$ og UENDRET skala. Summen av kvadrerte standard normale: $M_{Z^2}(t)=(1-2t)^{-1/2}$ gir $\sum Z_i^2\sim\chi^2_n$. Og for normalfordelte variabler viser $M_{aX+b}$ direkte at enhver lineærkombinasjon er normalfordelt, med $\text{Var}(X-Y)=\sigma_X^2+\sigma_Y^2$ — varianser ADDERES også ved differanse.

Hvorfor dette er nyttig

Alle pivotalene i kurset er bygget med disse verktøyene: transformasjon gir $2\lambda X\sim\chi^2_2$, momentgenererende funksjoner gir $\sum\chi^2_2=\chi^2_{2n}$, og forholdet mellom to skalerte kjikvadratstørrelser gir $F$-fordelingen. Behersker du dette kapitlet, kan du konstruere eksakte intervaller for fordelinger du aldri har sett før.

Studieguide: Transformasjon av variabler og momentgenererende funksjoner