Der Satz von Moivre-Laplace, auch Satz von de Moivre-Laplace oder zentraler Grenzwertsatz von de Moivre-Laplace genannt, ist ein Satz aus der Wahrscheinlichkeitstheorie. Nach diesem Satz konvergiert die Binomialverteilung für ${\displaystyle n\rightarrow \infty }$ und Wahrscheinlichkeiten ${\displaystyle 0<p<1}$ gegen die Normalverteilung. Bei großem Stichprobenumfang kann daher die Normalverteilung als Näherung der Binomialverteilung verwendet werden, was insbesondere bei der Normal-Approximation und bei Hypothesentests Anwendung findet. Für ${\displaystyle p={\tfrac {1}{2}}}$ kann diese Approximation durch das Galtonbrett experimentell veranschaulicht werden.

Beim Satz von Moivre-Laplace handelt es sich aus historischer Sicht um den ersten zentralen Grenzwertsatz. Im Jahre 1730 zeigte Abraham de Moivre die Aussage für ${\displaystyle p={\tfrac {1}{2}}}$ und im Jahre 1812 wurde von Pierre-Simon Laplace der allgemeine Fall gezeigt.

Aussage

Sei ${\displaystyle X_{1},X_{2},X_{3},\cdots }$ eine Folge unabhängiger bernoulli-verteilter Zufallsvariablen mit dem Parameter ${\displaystyle p\in (0,1)}$. Dann ist die Summe ${\displaystyle S_{n}=\sum _{i=1}^{n}X_{i}}$ binomialverteilt mit den Parametern ${\displaystyle n\in \mathbb {N} }$ und ${\displaystyle p\in (0,1)}$. Es gilt ${\displaystyle \operatorname {E} [S_{n}]=\mu _{n}:=np}$ und ${\displaystyle {\sqrt {\operatorname {Var} [S_{n}]}}=\sigma _{n}:={\sqrt {np(1-p)}}}$. ${\displaystyle \varphi }$ bezeichne die Dichtefunktion der Standardnormalverteilung, ${\displaystyle \Phi }$ bezeichne die Verteilungsfunktion der Standardnormalverteilung und ${\displaystyle \varphi _{\mu ,\sigma ^{2}}}$ bezeichne die Dichtefunktion einer normalverteilten Zufallsvariablen mit dem Erwartungswert ${\displaystyle \mu }$ und der Varianz ${\displaystyle \sigma ^{2}}$.

Dann gelten der lokale Grenzwertsatz von de Moivre-Laplace

${\displaystyle \lim _{n\to \infty }{\frac {\operatorname {P} (S_{n}=k)}{\varphi _{\mu _{n},\sigma _{n}^{2}}(k)}}=1,\quad k=0,1,\dots ,n}$

und der globale Grenzwertsatz von de Moivre-Laplace

${\displaystyle \lim _{n\to \infty }\operatorname {P} \left({\frac {S_{n}-\mu _{n}}{\sigma _{n}}}\leq t\right)=\Phi (t)\quad {\text{für alle }}t\in \mathbb {R} \;.}$

Interpretation

Der lokale Grenzwertsatz von de Moivre-Laplace besagt, dass die Wahrscheinlichkeiten einer binomialverteilten Zufallsvariablen durch die Dichtefunktion einer normalverteilten Zufallsvariablen mit demselben Erwartungswert und derselben Varianz approximiert werden können. Er dient zur Rechtfertigung der Approximation

${\displaystyle \operatorname {P} \left(S_{n}=k\right)\approx {\frac {1}{{\sqrt {2\pi }}\sigma _{n}}}\exp \left(-\left({\frac {k-\mu _{n}}{\sigma _{n}}}\right)^{2}\right)=\varphi _{\mu _{n},\sigma _{n}^{2}}(k)}$,

wobei auf der rechten Seite des Approximationszeichens die Dichtefunktion einer Zufallsvariablen mit der Normalverteilung ${\displaystyle {\mathcal {N}}(\mu _{n},\sigma _{n}^{2})}$ an der Stelle ${\displaystyle k}$ steht.

Der globale Grenzwertsatz von de Moivre-Laplace besagt, dass die standardisierten Zufallsvariablen ${\displaystyle {\frac {S_{n}-\mu _{n}}{\sigma _{n}}}}$ für ${\displaystyle n\to \infty }$ in Verteilung gegen die Standardnormalverteilung konvergieren. Der globale Grenzwertsatz von de Moivre-Laplace wird auch in der Form

${\displaystyle \lim _{n\to \infty }\left|\operatorname {P} (S_{n}\leq t)-\Phi \left({\frac {t-\mu _{n}}{\sigma _{n}}}\right)\right|=0\quad \quad {\text{für alle }}t\in \mathbb {R} }$

angegeben,

Beweis

Die Normalverteilung kann aus der Binomialverteilung hergeleitet werden, wenn die Differenz ${\displaystyle k-np}$ zwischen der Anzahl ${\displaystyle k}$ der Erfolge und dem Erwartungswert ${\displaystyle np}$ von der Größenordnung ${\displaystyle {\mathcal {O}}({\sqrt {n}})}$ ist und ${\displaystyle k}$ und ${\displaystyle n-k}$ von der Größenordnung ${\displaystyle {\mathcal {O}}(n)}$ sind.

Aus der Stirlingformel ${\displaystyle n!=n^{n}e^{-n}{\sqrt {2\pi n}}\left(1+{\mathcal {O}}\left({\frac {1}{n}}\right)\right)}$ ergibt sich dann folgende Näherung für die Binomialverteilung:

${\displaystyle {\begin{aligned}B(k\mid p,n)&={\frac {n!}{k!(n-k)!}}p^{k}(1-p)^{n-k}\\&={\frac {n^{n}e^{-n}{\sqrt {2\pi n}}}{k^{k}e^{-k}{\sqrt {2\pi k}}(n-k)^{n-k}e^{-(n-k)}{\sqrt {2\pi (n-k)}}}}p^{k}(1-p)^{n-k}\left(1+{\mathcal {O}}\left({\frac {1}{n}}\right)\right)\\&=n^{n}\left({\frac {p}{k}}\right)^{k}\left({\frac {1-p}{n-k}}\right)^{n-k}{\sqrt {\frac {n}{2\pi k(n-k)}}}\left(1+{\mathcal {O}}\left({\frac {1}{n}}\right)\right)\\&=\left({\frac {np}{k}}\right)^{k}\left({\frac {n(1-p)}{n-k}}\right)^{n-k}{\sqrt {\frac {n}{2\pi k(n-k)}}}\left(1+{\mathcal {O}}\left({\frac {1}{n}}\right)\right)\\\end{aligned}}}$

Um den Ausdruck ${\displaystyle \left({\tfrac {np}{k}}\right)^{k}\left({\tfrac {n(1-p)}{n-k}}\right)^{n-k}}$ als Potenz von ${\displaystyle e}$ darzustellen, wird der natürliche Logarithmus dieses Ausdrucks approximiert. Definiert man ${\displaystyle d:=k-np}$, dann gilt

${\displaystyle {\begin{aligned}\ln \left({\frac {np}{k}}\right)&=\ln \left({\frac {np}{np+d}}\right)=-\ln \left({\frac {np+d}{np}}\right)=-\ln \left(1+{\frac {d}{np}}\right)\\\ln \left({\frac {n(1-p)}{n-k}}\right)&=\ln \left({\frac {n(1-p)}{n(1-p)-d}}\right)=-\ln \left({\frac {n(1-p)-d}{n(1-p)}}\right)=-\ln \left(1-{\frac {d}{n(1-p)}}\right)\\\end{aligned}}}$

Aus der Potenzreihe ${\displaystyle \ln(1+x)=x-{\tfrac {x^{2}}{2}}+{\mathcal {O}}(x^{3})}$ für den natürlichen Logarithmus folgt

${\displaystyle {\begin{aligned}\ln \left(\left({\frac {np}{k}}\right)^{k}\left({\frac {n(1-p)}{n-k}}\right)^{n-k}\right)&=k\ln \left({\frac {np}{k}}\right)+(n-k)\ln \left({\frac {n(1-p)}{n-k}}\right)\\&=k\ln \left(1+{\frac {d}{np}}\right)-(n-k)\ln \left(1-{\frac {d}{n(1-p)}}\right)\\&=-(np+d)\left({\frac {d}{np}}-{\frac {d^{2}}{2n^{2}p^{2}}}+{\mathcal {O}}\left({\frac {d^{3}}{n^{3}}}\right)\right)-(n(1-p)-d)\left(-{\frac {d}{n(1-p)}}-{\frac {d^{2}}{2n^{2}(1-p)^{2}}}+{\mathcal {O}}\left({\frac {d^{3}}{n^{3}}}\right)\right)\\&=-d-{\frac {d^{2}}{np}}+{\frac {d^{2}}{2np}}+{\frac {d^{3}}{2n^{2}p^{2}}}-(np+d){\mathcal {O}}\left({\frac {d^{3}}{n^{3}}}\right)+d-{\frac {d^{2}}{n(1-p)}}+{\frac {d^{2}}{2n(1-p)}}-{\frac {d^{3}}{2n^{2}(1-p)^{2}}}-(n(1-p)-d){\mathcal {O}}\left({\frac {d^{3}}{n^{3}}}\right)\\&=-{\frac {d^{2}}{2np(1-p)}}+{\mathcal {O}}\left({\frac {d^{3}}{n^{2}}}\right)\\\end{aligned}}}$

Wendet man die Exponentialfunktion auf diese Gleichung an, dann erhält man

${\displaystyle \left({\frac {np}{k}}\right)^{k}\left({\frac {n(1-p)}{n-k}}\right)^{n-k}=e^{-{\frac {d^{2}}{2np(1-p)}}}\left(1+{\mathcal {O}}\left({\frac {d^{3}}{n^{2}}}\right)\right)}$

Außerdem gilt die Näherung

${\displaystyle {\sqrt {\frac {n}{2\pi k(n-k)}}}={\sqrt {\frac {n}{2\pi (np+d)(n(1-p)-d)}}}={\frac {1}{\sqrt {2\pi np(1-p)}}}\left(1+{\mathcal {O}}\left({\frac {d}{n}}\right)\right)}$

Weil ${\displaystyle d:=k-np}$ von der Größenordnung ${\displaystyle {\mathcal {O}}({\sqrt {n}})}$ ist, gilt ${\displaystyle {\mathcal {O}}\left({\frac {d^{3}}{n^{2}}}\right)={\mathcal {O}}\left({\frac {d}{n}}\right)={\mathcal {O}}\left({\frac {1}{\sqrt {n}}}\right)}$. Daraus folgt, dass die Binomialverteilung folgendermaßen dargestellt werden kann:

${\displaystyle B(k\mid p,n)={\frac {1}{\sqrt {2\pi np(1-p)}}}e^{-{\frac {(k-np)^{2}}{2np(1-p)}}}\left(1+{\mathcal {O}}\left({\frac {1}{\sqrt {n}}}\right)\right)}$

Dieser Wert nähert sich für große ${\displaystyle n}$ der Normalverteilung mit dem Erwartungswert ${\displaystyle \mu =np}$ und der Varianz ${\displaystyle \sigma ^{2}=np(1-p)}$ an.

Anwendungen

Der Satz von Moivre-Laplace ist die theoretische Grundlage der Normal-Approximation, einer Methode, mit der die Binomialverteilung angenähert werden kann.

Dabei formuliert man die obige Aussage durch eine Substitution um und erhält mit der Verteilungsfunktion der Standardnormalverteilung ${\displaystyle \Phi }$

${\displaystyle \lim _{n\to \infty }\left|\operatorname {P} (S_{n}\leq t)-\Phi \left({\frac {t-np}{\sqrt {np(1-p)}}}\right)\right|=0}$

für alle ${\displaystyle t\in \mathbb {R} }$.

Damit kann der Wert der binomialverteilten Zufallsvariable ${\displaystyle S_{n}}$ über die Werte der Verteilungsfunktion der Standardnormalverteilung angenähert werden. Diese entnimmt man üblicherweise der Tabelle der Standardnormalverteilung.

Der Satz von Moivre-Laplace liefert ausreichend gute Näherungen, wenn ${\displaystyle n}$ und ${\displaystyle p}$ die folgende Bedingung erfüllen:

${\displaystyle np(1-p)>9}$

Bei der Normal-Approximation wird zur Verringerung des Näherungsfehlers noch zusätzlich eine sogenannte Stetigkeitskorrektur eingeführt, die aus dem Einführen von Korrekturtermen ${\displaystyle \pm {\tfrac {1}{2}}}$ besteht und den Übergang von einer diskreten zu einer stetigen Wahrscheinlichkeitsverteilung kompensieren soll.

Beispiel

Gegeben sei eine binomialverteilte Zufallsvariable ${\displaystyle X}$ mit den Parametern ${\displaystyle n=48}$ und ${\displaystyle p={\tfrac {1}{4}}}$, dann hat ${\displaystyle X}$ den Erwartungswert ${\displaystyle np=3}$ und die Varianz ${\displaystyle np(1-p)=9}$. Die Binomialverteilung wird durch eine Normalverteilung ${\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}$ mit dem Mittelwert ${\displaystyle \mu =np=12}$ und der Varianz ${\displaystyle \sigma ^{2}=np(1-p)=9}$ approximiert.

Nun suchen wir die Antwort auf die Frage: „Wie groß ist die Wahrscheinlichkeit, dass ${\displaystyle X}$ Werte kleiner oder gleich 3 annimmt?“ bzw. „Wie groß ist die Wahrscheinlichkeit ${\displaystyle P(0\leq X\leq 3)}$?“ Da ${\displaystyle 3=\mu -3\sigma }$ ist, handelt es sich um eine kleine Wahrscheinlichkeit im linken Verteilungsende, die exakt mit Hilfe der Binomialverteilung oder approximativ aus der Normalverteilung berechnet werden kann. Für diese Fragestellung und Parameterkonstellation ergeben sich folgende Resultate:

• Berechnung mit der Binomialverteilung

${\displaystyle P(0\leq X\leq 3)=\sum _{k=0}^{3}{\binom {48}{k}}\cdot {\bigg (}{\frac {1}{4}}{\bigg )}^{k}\cdot {\bigg (}{\frac {3}{4}}{\bigg )}^{48-k}\approx 0{,}0007882}$

• Abschätzung mit der Normalverteilung

${\displaystyle {\begin{aligned}P(0\leq X\leq 3)&\approx \Phi \left({\tfrac {3-12}{3}}\right)-\Phi \left({\tfrac {0-12}{3}}\right)=\Phi \left(-3\right)-\Phi \left(-4\right)\\&=1-\Phi \left(3\right)-1+\Phi \left(4\right)\approx -0{,}99865+0{,}99997=0{,}00132\end{aligned}}}$

• Abschätzung mit Normalverteilung und Stetigkeitskorrektur

${\displaystyle {\begin{aligned}P(0\leq X\leq 3)&\approx \Phi \left({\tfrac {3+0{,}5-12}{3}}\right)-\Phi \left({\tfrac {0-0{,}5-12}{3}}\right)=\Phi \left(-2{,}83\right)-\Phi \left(-4{,}17\right)\\&=1-\Phi \left(2{,}83\right)-1+\Phi \left(4{,}17\right)\approx -0{,}99767+1=0{,}00233\end{aligned}}}$

Bei dieser Rechnung ist zu beachten, dass aus Gründen der Symmetrie ${\displaystyle \Phi (-x)=1-\Phi (x)}$ gilt und ${\displaystyle \Phi (x)\approx 1}$ für ${\displaystyle x>4{,}09}$ ist.

Die Berechnung mit der Normalverteilung ohne Stetigkeitskorrektur überschätzt die Wahrscheinlichkeit. Dies ist darauf zurückzuführen, dass die Binomialverteilung bei dieser Parameterkonstellation eine Schiefe aufweist, die dazu führt, dass die Normalverteilung im linken Verteilungsende die entsprechenden Wahrscheinlichkeiten überschätzt und im rechten Verteilungsende überschätzt. Ob dieser Approximationsfehler akzeptabel ist, hängt von der Anwendung und Fragestellung ab. Der absolute Approximationsfehler 0,00132 - 0,0007882 liegt unter 0,001 und kann damit z. B. in solchen statistischen Anwendungsfällen akzeptabel sein, bei denen Konfidenz- und Signifikanzniveaus in einer der groben Stufen ${\displaystyle \alpha \in \{10\%,5\%,1\%\}}$ festgelegt werden. Anderseits ist der relative Approximationsfehler (0,00132 - 0,0007882)/0,0007882 = 67,47 %. Dies kann bei anderen Anwendungen eine unakzeptable Ungenauigkeit der zu bestimmenden Wahrscheinlichkeit sein.

Die Verwendung der Stetigkeitskorrektur verschlechtert bei dieser Konstellation die Approximation durch die Normalverteilung, da durch die Berücksichtigung zusätzlicher Wahrscheinlichkeitsmasse die Überschätzung durch die Normalverteilung weiter verstärkt wird. Das Beispiel zeigt insofern die Problematik einer standardmäßigen Anwendung der Stetigkeitskorrektur, wenn damit die Vorstellung einer gleichmäßigen Verbesserung verbunden ist.

Siehe auch

• Zentraler Grenzwertsatz

Literatur

• Norbert Henze: Stochastik für Einsteiger: Eine Einführung in die faszinierende Welt des Zufalls. 10. Auflage. Springer Spektrum, Wiesbaden 2013, ISBN 978-3-658-03076-6, doi:10.1007/978-3-658-03077-3, S. 221 ff.
• Hans Fischer: A History of the Central Limit Theorem – From Classical to Modern Probability Theorem (= Sources and Studies in the History of Mathematics and Physical Sciences). Springer, New York / Dordrecht / Heidelberg / London 2011, ISBN 978-0-387-87857-7. 
• Ulrich Krengel: Einführung in die Wahrscheinlichkeitstheorie und Statistik. 7. Auflage. Vieweg-Verlag, Wiesbaden 2003, ISBN 3-528-67259-5, doi:10.1007/978-3-322-93581-6, S. 80–83

Weblinks

• Binomial- und Normalverteilung – Online-Lehrgang mit dynamischen Arbeitsblättern (Java-Plugin benötigt)

Einzelnachweise

1. ↑ Norbert Henze: Stochastik für Einsteiger. Eine Einführung in die faszinierende Welt des Zufalls. 10. Auflage. Springer Spektrum, Wiesbaden 2013, ISBN 978-3-658-03076-6, S. 223, doi:10.1007/978-3-658-03077-3. 
2. ↑ A.V. Prokhorov: Laplace theorem. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org). 
3. ↑ Santa Cruz Institute for Particle Physics: The Normal Approximation to the Binomial Distribution
4. ↑ Michael Sachs: Wahrscheinlichkeitsrechnung und Statistik für Ingenieurstudenten an Fachhochschulen. Fachbuchverlag Leipzig, München 2003, ISBN 3-446-22202-2, S. 129–130