Normalverteilung

Was ist eine Normalverteilung?

Die Normal- oder Gauss-Verteilung (benannt nach Carl Friedrich Gauss) ist die wohl wichtigste Wahrscheinlichkeitsverteilungen. Die zugehörige Dichtefunktion kennt man auch unter dem Namen Gauss'sche Glockenkurve.

In Wikipedia wird die Bedeutung der Normalverteilung folgendermassen beschrieben:

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, dem zufolge Verteilungen, die durch additive Überlagerung einer grossen Zahl von unabhängigen Einflüssen entstehen, unter schwachen Voraussetzungen annähernd normalverteilt sind.

Die Abweichungen der Messwerte vieler natur-, wirtschafts- und ingenieurwissenschaftlicher Vorgänge vom Erwartungswert lassen sich durch die Normalverteilung (bei biologischen Prozessen oft logarithmische Normalverteilung) in sehr guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Die Standardnormalverteilung an einem Beispiel

Sei $X_1$ , $X_2$ , $X_3$ , $\dots$ , $X_n$ eine Folge von i.i.d. (independent, identically distributed) Zufallsvariablen, deren Erwartungswert $\mu$ und Varianz $\sigma^2$ existieren. Man kann sich für die Fortsetzung zum Beispiel vorstellen, dass diese $X_i$ , $i\in\{1,2,\dots,n\}$ Messwerte seien. Im Falle von beispielsweise $n=10$ ist der Mittelwert

\frac{X_1+\dots+X_{10}}{10}

selbst auch wieder eine Zufallsvariable mit einer gewissen Verteilung.

Für die folgende, theoretische Überlegung nehmen wir an, wir wüssten den Erwartungswert $\mu$ . In der Praxis ist dies meist nicht der Fall und man versucht dieses $\mu$ so gut wie möglich zu schätzen. Wir setzen

\boxed{Y_i := X_i-\mu}.

$Y_i$ ist also die Abweichung der Messung $X_i$ vom Erwartungswert. Man kann dies beispielsweise als Messungenauigkeit oder Rauschen interpretieren. Für den Erwartungswert von $Y_i$ folgt nun:

\operatorname{E}(Y_i) = \operatorname{E}(X_i-\mu) = \operatorname{E}(X_i)-\operatorname{E}(\mu) = \operatorname{E}(X_i)-\mu = 0.

Die Varianz ändert sich natürlich bei der Verschiebung um $\mu$ nicht:

\operatorname{Var}(Y_i) = \operatorname{Var}(X_i) = \sigma^2.

Es folgt wegen der Unabhängigkeit der $Y_i$

\operatorname{Var}(Y_1+Y_2+\dots+Y_n) = \operatorname{Var}(Y_1)+\dots+\operatorname{Var}(Y_n) = n\cdot\sigma^2.

das heisst die Standardabweichung von $Y_1+\dots+Y_n$ ist

\sqrt{n\sigma^2} = \sqrt{n}\cdot\sigma.

Jetzt definieren wir uns eine neue Zufallsvariable

\boxed{Z_n := \frac{Y_1+\dots+Y_n}{\sqrt{n}\cdot\sigma}}.

So ist $\operatorname{E}(Z_n) = 0$ und $\operatorname{Var(Z_n)} = 1$ (normiert). Diese neu definierte Zufallsvariable $Z_n$ konvergiert für grösser werdende $n$ immer gegen dieselbe Verteilung, nämlich der Standard-Normalverteilung! Und dies unabhängig davon, welcher Verteilung die $X_i$ , $i\in\{1,\dots,n\}$ unterliegen.

Verschiedene Verteilungen normiert

Poissonverteilt $P_\lambda(k) = \frac{\lambda^k}{k!}\cdot\mathrm{e}^{-\lambda}$

Exponentialverteilt $f_\lambda(x) = \lambda\mathrm{e}^{-\lambda x}$

Binomialverteilt $B(n,p,k) = \binom{n}{k}p^k(1-p)^{n-k}$

Man sieht, dass für jede der getesteten Verteilung eine zur unten abgebildeten Funktion ähnliche Kurve resultiert.

Grundsätzlich hat der Graph der Funktion

f(x) = \text{e}^{-x^2}

die Form einer Glockenkurve. Soll damit aber eine Wahrscheinlichkeitsverteilung abgebildet werden, so muss die Fläche unter $f$ $1$ sein. Speziell für den Erwartungswert $0$ und die Standardabweichung/Varianz $1$ findet man die sogenannte Standard-Normalverteilung

\mathcal{N}(0,1) = \frac{1}{\sqrt{2\pi}}\cdot \text{e}^{-\frac{x^2}{2}}.

In der Praxis möchte man noch die Parameter $\mu$ (Erwartungswert) und $\sigma$ (Standardabweichung) einstellen können. Dies führt zur Darstellung der Normalverteilungsdichtefunktion mit Erwartungswert $\mu$ und Standardabweichung $\sigma$ :

\mathcal{N}(\mu,\sigma) := \frac{1}{\sqrt{2\pi\sigma^2}}\cdot \text{e}^{-\frac{(x-\mu)^2}{2\sigma^2}}.

Die Verteilungsfunktion

\Phi(x) := \frac{1}{\sqrt{2\pi}}\cdot\int_{-\infty}^{x} \text{e}^{-\frac{t^2}{2}}\,\mathrm{d}t

besitzt keine geschlossene Stammfunktion, weshalb man auf Tabellen zurückgreift. Wie oben gesehen kann man aber jede Zufallsvariable $X$ durch die Transformation zu $Z$ normieren, so dass nur die Standard-Normalverteilungsfunktion tabelliert werden muss. Um diese zu benutzen normiert man die normalverteilte Zufallsvariable $X$ zu $Z = \frac{X-\mu_{X}}{\sigma_{X}}$ . Will man beispielsweise $P(x_{1} \leq X \leq x_{2})$ eruieren, so normiert man zu $P\left(\frac{x_{1}-\mu_{X}}{\sigma_{X}}\leq\frac{X-\mu_{X}}{\sigma_{X}} \leq \frac{x_{2}-\mu_{X}}{\sigma_{X}}\right) = P(z_{1} \leq Z\leq z_{2})$ und liest dann den $\Phi$ -Wert aus der Tabelle unten.

Der zentrale Grenzwertsatz

Der zentrale Grenzwertsatz (von Lindeberg-Lévy) ist ein bedeutendes Resultat der Wahrscheinlichkeitstheorie. Er liefert die Begründung für das Phänomen, dass sich bei der additiven Überlagerung vieler unabhängiger Zufallseffekte zumindest approximativ eine Normalverteilung ergibt, wenn keiner der einzelnen Effekte einen dominierenden Einfluss auf die Varianz hat. Die in diesem wahrscheinlichkeitstheoretischen Sinne zu verstehende Konvergenz ist mit unseren Bezeichnungen die Gleichung

\lim_{n\to\infty} P(Z_n\leq x) = \Phi(x)

für beliebiges $x\in\mathbb{R}$ . Die zu den $Z_n$ gehörende Verteilungsfunktion wird also mit wachsendem $n$ durch die Normalverteilung approximiert.

Standardnormalverteilungstabelle $\Phi(z)$