Grenzwertsätze

Gesetze der großen Zahlen haben die Konvergenz von ${\displaystyle {\frac {1}{n}}((X_{1}-\mu _{1})+...+(X_{n}-\mu _{n}))}$ gegen 0 zum Inhalt, wenn ${\displaystyle X_{1},X_{2},...}$ eine Folge von Zufallsvariablen ist und ${\displaystyle \mu _{i}=E(X_{i})}$.

Sind ${\displaystyle X_{1},X_{2},...}$ unabhängige, ${\displaystyle B(n,p)}$-verteilte Zufallsvariablen, so vermutet man eine Konvergenz von ${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ ('relative Häufigkeit') gegen ${\displaystyle p}$ ('Auftrittswahrscheinlichkeit'). Dabei müssen Konvergenzbegriffe der Stochastik eingeführt werden.

Wir sagen, dass eine Folge ${\displaystyle Y_{1},Y_{2},...}$(${\displaystyle X_{1},X_{2},...}$) von Zufallsvariablen (auf einem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {S}},P)}$)
a) stochastisch gegen eine Zufallsvariable Y konvergiert, falls

${\displaystyle \forall \epsilon >0:P(|Y_{n}-Y|\geq E)\to 0,(n\to \infty )}$

gilt. Man schreibt dafür ${\displaystyle Y_{n}{\stackrel {P}{\to }}Y}$.

b) mit existierendem Erwartungswert ${\displaystyle \mu _{i}=E(X_{i})}$ das schwache Gesetz der großen Zahlen erfüllt, falls eine Folge

${\displaystyle Y_{n}={\frac {1}{n}}[(X_{1}-\mu _{1})+...+(X_{n}-\mu _{n})],n=1,2,...}$

von Zufallsvariablen stochastsich gegen 0 konvergiert.

${\displaystyle Y_{n}{\stackrel {p}{\to }}0}$

Sind ${\displaystyle X_{1},X_{2}}$ paarweise unkorrelierte Zufallsvariablen (auf dem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {S}},P)}$) mit ${\displaystyle X_{i}\in {\mathcal {L}}_{2}}$ und mit ${\displaystyle {\frac {1}{n^{2}}}\sum _{i=1}^{n}Var(X_{i})\to 0}$, (${\displaystyle n\to \infty }$), so erfüllt diese Folge ${\displaystyle X_{1},X_{2},...}$ das schwache Gesetz der großen Zahlen.

Für die Zufallsvariablen ${\displaystyle Y_{n}={\frac {1}{n}}\sum (X_{i},\mu _{i})}$ gilt ${\displaystyle EY_{n}=0}$ und ${\displaystyle Var(Y_{n})={\frac {1}{n^{2}}}\sum _{i=1}^{n}Var(X_{i})\to 0}$, (${\displaystyle n\to \infty }$) liefert die Tschebyscheff-Ungleichung

${\displaystyle P(|Y_{n}=E(Y_{n})|\geq \epsilon )\leq {\frac {Var(Y_{n})}{\epsilon ^{2}}}\to 0,}$ (${\displaystyle n\to \infty }$)

Sind ${\displaystyle X_{1}}$ und ${\displaystyle X_{2}}$ unabhängige Zufallsvariablen aus ${\displaystyle {\mathcal {L}}_{2}}$ mit gleichmäßig beschränkten Varianzen (d.h. ${\displaystyle Var(X_{i})\leq M<\infty }$ ${\displaystyle \forall i=1,2,...}$), dann erfüllt dies Folge das schwache Gesetz der großen Zahlen.

Ist ${\displaystyle X^{n}=X_{1}+...+X_{n}}$ ${\displaystyle B(n,p)}$-verteilt (${\displaystyle X_{1},X_{2},...}$ unabhängig ${\displaystyle B(1,p)}$-verteilt), so gilt:

${\displaystyle {\frac {1}{n}}X^{n}{\stackrel {P}{\to }}p'}$

Umgangssprachlich: die relativen Häufigkeiten des Ereignisses '1' konvergieren stochastisch gegen ${\displaystyle w}$.

Die stochstische Konvergenz stellt einen relativ schwachen Konvergenzbegriff dar. So braucht für kein ${\displaystyle w\in \Omega }$ gewöhnliche Konvergenz ${\displaystyle Y_{n}(w)\to Y(w)}$, (${\displaystyle n\to \infty }$), stattzufinden, wie das folgende Beispiel zeigt.

Sei ${\displaystyle (\Omega ,{\mathcal {U}},P)=([0,1],[0,1]\cap {\mathcal {B}}^{1},{\text{Gleichverteilung}})}$. Man definiere die Folge ${\displaystyle Y_{n}=1_{A_{n}},n\geq 1}$, durch
${\displaystyle A_{n}=\lbrace w\to [0,1]:\exists m\in \mathbb {N} \,{\text{mit}}\,w+m\to [a_{n-1},a_{n}]\rbrace }$,

wobei ${\displaystyle A_{0}=0}$ und ${\displaystyle a_{n}=1+{\frac {1}{2}}+...+{\frac {1}{n}}}$, (${\displaystyle w\in [a_{n-1},a_{n}]{\text{mod}}1}$).

Es gilt

1. ${\displaystyle Y_{n}{\stackrel {P}{\to }}0}$, denn für ${\displaystyle \epsilon \in (0,1)}$ ist ${\displaystyle P(|Y_{n}-0|>\epsilon )=P(Y_{n}=1)=P(A_{n})={\frac {1}{n}}\to 0}$.

2. Die Folge ${\displaystyle Y_{n}(w)}$ konvergiert für kein ${\displaystyle w\in [0,1]}$, wegen der Konvergenz der harmonischen Reihe.

Der Konvergenzberiff ${\displaystyle Y_{n}(w)=Y(w)}$ ${\displaystyle \forall w\in \Omega }$ ist für die Stochastik unbrauchbar. So ist für ${\displaystyle Y_{n}={\frac {1}{n}}X^{n}}$, ${\displaystyle X^{n}}$ ${\displaystyle B(n,p)}$-verteilt:

${\displaystyle Y_{n}(w)}$ nicht konvergent für viele ${\displaystyle w}$.

Wir nehmen die Sprechweise wieder auf: Eine Aussage gilt '${\displaystyle P}$ fast überal' oder '${\displaystyle P}$ fast sicher' (synonym), wenn die Menge ${\displaystyle A}$ aller ${\displaystyle w}$ für die die Aussage richtig ist, die Wahrscheinlichkeit 1 hat: ${\displaystyle P(A)=1}$.

a) Eine Folge ${\displaystyle Y_{1},Y_{2},...}$ von Zufallsvariablen (auf einem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {S}},P)}$) konvergiert fast sicher gegen die Zufallsvariable ${\displaystyle Y}$, falls

${\displaystyle P\lbrace w:lim_{n\to \infty }Y_{n}(w)=Y(w)\rbrace =1.}$

Man schreibt kürzer: ${\displaystyle P(lim_{n}Y_{n}=Y)=1}$ bzw. ${\displaystyle Y_{n}\to Y}$ ${\displaystyle P}$ fast sicher.

b) Man sagt, dass eine Folge ${\displaystyle X_{1},X_{2},...}$von Zufallsvariablen auf ${\displaystyle (\Omega ,{\mathcal {S}},P)}$ mit existierenden Erwartungswerten ${\displaystyle \mu _{i}\equiv E(X_{i})}$ das starke Gesetz der großen Zahlen erfüllt, falls die Folge ${\displaystyle Y_{n}={\frac {1}{n}}[(X_{1}-\mu _{1})+...+(X_{n}-\mu _{n})]}$, ${\displaystyle n=1,2,...}$, ${\displaystyle P}$-f.s. gegen 0 konvergiert: ${\displaystyle Y_{n}\to 0}$ ${\displaystyle P}$-f.s.

Aus ${\displaystyle Y_{n}\to Y}$ ${\displaystyle P}$-f.s. folgt ${\displaystyle Y_{m}{\stackrel {P}{\to }}Y}$ (ohne Beweis). Das obige Beispiel zeigt, dass die Umkehrung nicht (vereinfachtes Beispiel siehe später) gilt. Das wichtigste Hilfsmittel zum Beweis eines starken Gesetzes der großen Zahlen ist das folgende Lemma von Borel-Cantelli, das auch sonst wichtig ist.

Sei ${\displaystyle (\Omega ,{\mathcal {U}},P)}$ ein Wahrscheinlichkeitsraum und ${\displaystyle A_{1},A_{2},...}$ eine Folge von Ereignissen aus ${\displaystyle {\mathcal {U}}}$. Sei ${\displaystyle A^{*}}$ das Ereignis, dass unendlich viele der ${\displaystyle A}$'s eintreten:

${\displaystyle A^{*}=\lbrace w\in \Omega :w\in A_{i};\,{\text{für unendlich viele}}\,i\in \mathbb {N} \rbrace }$

a) Gilt ${\displaystyle \sum _{i=1}^{\infty }P(A_{i})\leq \infty }$, dann ist ${\displaystyle P(A^{*})=0}$.

b) Sind die ${\displaystyle A_{1},A_{2},...}$ unabhängig und ist ${\displaystyle \sum _{i=1}^{\infty }}$, dann ist ${\displaystyle P(A^{*})=1}$.

a) Es ist ${\displaystyle w\in A^{*}}$ genau dann, wenn es ${\displaystyle \forall n\in \mathbb {N} }$ ein ${\displaystyle i\geq n}$ gibt, ${\displaystyle w\in A_{i}}$. D.h.

${\displaystyle A^{*}=\bigcap _{n=1}^{\infty }\bigcup _{i\geq n}A_{i}.}$

Da ${\displaystyle A^{*}\subset \cup _{i\geq n}A_{i}}$ für jedes ${\displaystyle n\in \mathbb {N} }$ ist, gilt:

${\displaystyle P(A^{*})=P(\bigcup _{i\geq n}A_{i}\leq \sum _{i\geq n}P(A_{i})\to 0}$

für ${\displaystyle n\to \infty }$.

b) Wir benutzen die Ungleichung ${\displaystyle 1-x\leq e^{-x},\forall x\in \mathbb {R} }$ und die Unabhängigkeit der ${\displaystyle {\bar {A}}_{1},{\bar {A}}_{2},...}$. Es gilt für alle ${\displaystyle n}$ und ${\displaystyle N\geq n}$:

${\displaystyle P(\bigcap _{i=1}^{\infty }{\bar {A}}_{i})\leq P(\bigcap _{i=n}^{N}{\bar {A}}_{i})=\Pi _{i=n}^{N}(1-P(A_{i})\leq \Pi _{i=n}^{N}e^{-P(A_{i})}=exp(-\sum _{i=n}^{N}P(A_{i}))\to 0}$

für ${\displaystyle N\to \infty }$, wegen der Divergenz der Reihe. Also ${\displaystyle P({\bar {A}}_{i})=0}$ für jedes ${\displaystyle n}$:

${\displaystyle P({\bar {A}}_{i}^{*})=P(\bigcup _{n=1}^{\infty }\bigcap _{i\geq n}{\bar {A}}_{i})\leq \sum _{n=1}^{\infty }P(\bigcap {\bar {A}}_{i})=0}$

d.h. ${\displaystyle P(A^{*})=1}$.

1. Teil b) rechtfertigt den populären Ausdruck: "Ein Ereignis, das (mit positiver Wahrscheinlichkeit) eintreten kann, tritt mit (${\displaystyle P}$)- Sicherheit einmal ein (sogar beliebig oft), wenn nur genügend (unabhängige) Versuche durchgeführt werden".

2. Teil b) lässt sich als weiteres Beispiel einer Folge ${\displaystyle Y_{n},n\geq 1}$ angeben, die stochastisch konvergiert, aber nicht fast sicher. Seien ${\displaystyle Y_{1},Y_{2},...}$ unabhängige ${\displaystyle B(1,{\frac {1}{n}})}$-verteilte Zufallsvariablen. Dann gilt ${\displaystyle Y_{n}{\stackrel {P}{\to }}0}$, denn für ein ${\displaystyle 0<\epsilon <1}$ ist ${\displaystyle P(|Y_{n}|>\epsilon )=P(Y_{n}=1)={\frac {1}{n}}\to 0}$, (${\displaystyle n\to \infty }$).

3. Anderseits konvergiert die Folge für ${\displaystyle P}$ fast alle ${\displaystyle w^{2}}$ nicht! Denn wegen ${\displaystyle \sum _{n}P(Y_{n}=1)=\sum _{n}{\frac {1}{n}}\to \infty }$ folgt

${\displaystyle P(limsupY_{n}=1)=mp(A^{*})=1}$

und wegen ${\displaystyle \sum _{n}mp(Y_{n}=0)=\sum _{n}(1-{\frac {1}{n}})=\infty }$ folgt

${\displaystyle P(liminfY_{n}=0)=mp(B^{*})=1.}$

Bilden ${\displaystyle X_{1},X_{2},...}$ eine Folge paarweise unkorrelierter Zufallsvariablen auf einem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {U}},P)}$, aus ${\displaystyle {\mathcal {L}}_{2}}$ mit beschränkter Varianz (d.h. ${\displaystyle Var(X_{i})\leq M<\infty }$ für alle ${\displaystyle i}$), so erfüllt die Folge das starke Gesetz der großen Zahlen.

Definiere ${\displaystyle Y_{n}={\frac {1}{n}}\sum _{i=1}^{n}X'_{i}}$, ${\displaystyle X'_{i}=X_{i}-E(X_{i})}$.

Wir zeigen zunächst, dass ${\displaystyle Y_{n^{2}}={\frac {1}{n^{2}}}\sum _{i=1}^{n^{2}}X'_{i}\to 0}$ ${\displaystyle P}$-f.s.

Gemäß der Formel von Bienaymé ist

${\displaystyle Var(Y_{n^{2}})={\frac {1}{n^{4}}}\sum _{i=k}^{n^{2}}Var(X_{i})\leq {\frac {1}{n^{2}}}M}$

so dass Tschebyschoff für alle ${\displaystyle \epsilon >0}$ und für die Menge ${\displaystyle A_{k}^{\epsilon }=\lbrace w:|Y_{n^{2}}(w)|\geq \epsilon \rbrace }$ gilt:

${\displaystyle P(A_{k}^{\epsilon })\leq {\frac {1}{\epsilon }}Var(Y_{n^{2}})\leq {\frac {M}{n^{2}\epsilon ^{2}}}}$

sowie

${\displaystyle \sum _{n=1}^{\infty }P(A_{n}^{\epsilon })<\infty .}$

Borel-Cantelli-Lemma Teil a) liefert für ${\displaystyle A^{*\epsilon }=\lbrace w:|Y_{n^{2}}(w)|\geq \epsilon }$, für ${\displaystyle \infty }$ viele ${\displaystyle n\rbrace }$:

${\displaystyle P(A^{*\epsilon })=0}$

Es folgt:

${\displaystyle P(\bigcup _{k=1}^{\infty }A^{*{\frac {1}{k}}})\leq \sum _{k=1}^{\infty }P(A^{*{\frac {1}{k}}}=0}$ bzw.

${\displaystyle P(\bigcap _{k=1}^{\infty }A^{*{\frac {1}{k}}})=1,}$

denn für ${\displaystyle w\in \bigcap _{k=1}^{\infty }A^{*{\frac {1}{k}}}}$ gilt ${\displaystyle Y_{n^{2}}(w)\geq {\frac {1}{k}}}$ nur für endliche viele ${\displaystyle n}$ (für alle ${\displaystyle k}$), d.h. für ${\displaystyle P}$ fast sicher (für alle ${\displaystyle w}$) gilt: ${\displaystyle \forall \epsilon >0\exists m_{0}=m_{0}(w,\epsilon )}$, so dass

(*) ${\displaystyle |Y_{n^{2}}(w)|\leq \epsilon \forall n^{2}\geq m_{0}.}$

Für beliebige ${\displaystyle m\in \mathbb {N} }$ sei ${\displaystyle n=n(m)}$ diejenige natürliche Zahl, für welche ${\displaystyle n^{2}\leq m<(n+1)^{2}}$ ist. Mit analogen Methoden wie in (1) zeigt man für die Menge

${\displaystyle B^{*\epsilon }=\lbrace w:|{\frac {m}{n^{2}}}>_{m}(w)-Y_{n^{2}}(w)|\geq \epsilon \,{\text{ für}}\,\infty \,{\text{ viele}}\,m\rbrace }$

dass

${\displaystyle P(\bigcap _{n=1}^{\infty }B^{*\epsilon })=1}$

Folglich gilt für ${\displaystyle P}$ fast sicher: ${\displaystyle \forall \epsilon >0\exists m_{0}\equiv m_{0}(w,\epsilon )}$ mit

(**) ${\displaystyle |{\frac {m}{n^{2}}}Y_{m}(w)-Y_{n^{2}}(w)|\leq \epsilon }$ für alle ${\displaystyle m\leq m_{0}.}$

Die beiden Gleichungen (*) und (**) liefern für ${\displaystyle P}$ fast sicher: ${\displaystyle \forall \epsilon >0\exists m_{0}\equiv m_{=}(w,\epsilon )}$ mit

${\displaystyle |Y_{m}(w)|\leq {\frac {m}{n^{2}}}|Y_{m}(w)|\leq |{\frac {m}{n^{2}}}Y_{m}(w)-Y_{n^{2}}(w)|+|Y_{n^{2}}(w)|\leq 2\epsilon }$

für alle ${\displaystyle m\geq m_{0}}$. Das heißt aber ${\displaystyle Y_{n}\to 0}$ ${\displaystyle P}$ fast sicher.

Entsprechend der starken Aussage benötigt der Satz auch eine stärkere Voraussetzung als der Satz zum schwachen Gesetz der großen Zahlen.

Ist ${\displaystyle X^{n}}$ ${\displaystyle B(n,p)}$-verteilt, so gilt ${\displaystyle {\frac {1}{n}}X^{n}\to p}$ ${\displaystyle P}$ fast sicher. Hierdurch wird die Aussage des Beispiels zum schwachen Gesetz der großen Zahlen verbessert. Dieses Ergebnis bestätigt die Brauchbarkeit unseres wahrscheinlichkeitstheoretischen Konzeptes. Es präzisiert die Intuition, dass sich für große ${\displaystyle n}$ annähert.

${\displaystyle {\frac {1}{n}}(X^{n})}$ beobachte relative Häufigkeit eines Ereignisses an ${\displaystyle p}$ (axiomatisch eingeführte Wahrscheinlichkeit der Ereignisse).

In diesem Abschnitt Verallgemeinerung (und Beweis) des Grenzwertsatzes von DeMoivre-Laplace auf Summen unabhängiger, identisch verteilter Zufallsvariablen (anstatt nur unabhängige Bernoullivariablen). Der Beweis zum zentralen Grenzwertsatz von Lindberg-Lexy (später) benutzt einen Stetigkeitssatz für charakteristische Funktionen und einen dritten Konvergenzbegriff ('Verteilungskonvergenz').

Seien ${\displaystyle X_{1},X_{2},...}$ Zufallsvariablen aus ${\displaystyle {\mathcal {L}}_{2}}$. Man sagt, dass diese Folge den zentralen Grenzwertsatz erfüllt, falls für die Standardisierten der Partialsummen ${\displaystyle S_{n}=X_{1}+...+X_{n}}$ mit

${\displaystyle S_{n}^{*}={\frac {S_{n}-E(S_{n})}{\sqrt {Var(S_{n})}}}}$ (${\displaystyle \equiv }$ Standardisieren) gilt:

${\displaystyle lim_{n\to \infty }P(a<S_{n}\leq b)\to \Phi (b)-\Phi (a)\forall a<b;a,b\in \mathbb {R} }$

Dabei ist ${\displaystyle \Phi (x),x\in \mathbb {R} }$, die Verteilungsfunktion der ${\displaystyle N(0,1)}$-Verteilung. Es reicht, ${\displaystyle lim_{n\to \infty }P(S_{n}^{*}\leq x)=\Phi (x)\forall x\in \mathbb {R} }$ zu zeigen.

1. Die Gültigkeit des zentralen Grenzwertsatzes eröffnet die Möglichkeit, unter Umständen nicht (oder nur schwer) berechenbare Wahrscheinlichkeiten ${\displaystyle P(a<S^{*}\leq b)}$ durch die Werte der ${\displaystyle N(0,1)}$-Verteilung zu approximieren.

2. Sind ${\displaystyle X_{1},X_{2},...}$ unabhängig, mit identischen Erwartungswerten ${\displaystyle \mu =E(X_{i})}$ und identischen Varianzen ${\displaystyle \sigma ^{2}=Var(X_{i})}$, so wird aus der Standardisierten oben

${\displaystyle S_{n}^{z}={\frac {S_{n}-n\mu }{{\sqrt {n}}\sigma }}={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}({\frac {X_{i}-\mu }{\sigma }})={\sqrt {n}}{\frac {{\bar {X}}_{n}-\mu }{\sigma }}\neq {\bar {X}}_{m}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}.}$

3. Um einen zentralen Grenzwertsatz zu beweisen, müssen wir zeigen:

${\displaystyle F_{n}^{*}(x)\to \Phi (x),\forall x\in \mathbb {R} ,n\to \infty }$

wenn ${\displaystyle F_{n}^{*}(x)}$ die Verteilungsfunktion von ${\displaystyle S_{n}^{*}(x)}$ ist.

Diese Aussage stellt einen dritten Konvergenzbegriff dar (Verteilungskonvergenz).

Allgemein wird Folgendes definiert:

Eine Folge ${\displaystyle Y_{n},n\geq 1}$ von Zufallsvariablen heißt Verteilungskonvergenz gegen die Zufallsvariable ${\displaystyle Y_{0}}$, falls bei ${\displaystyle n\to \infty }$

${\displaystyle F_{n}(x)\to F_{0}(x)\forall x\in {\mathcal {C}}(F_{0}),}$

dabei bezeichnet ${\displaystyle F_{n}}$ und ${\displaystyle F_{0}}$ die Verteilungsfunktion von ${\displaystyle Y_{n}}$ und ${\displaystyle F_{0}}$ und ${\displaystyle {\mathcal {C}}(F_{0})\subset \mathbb {R} }$ die Menge alle Stetigkeitsstellen von ${\displaystyle F_{0}}$. Man schreibt kurz:

${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y}$

(oder auch ${\displaystyle Y_{n}{\stackrel {\mathcal {B}}{\to }}Y}$), wobei ${\displaystyle {\mathcal {D}}}$ hier 'Distribution' bedeutet.

1. Der Begriff der Verteilungskonvergenz verlangt nicht, das alle ${\displaystyle Y_{n},Y_{0}}$ auf demselben Wahrscheinlichkeitsraum definiert sind.

2. Für stetige Verteilungsfunktionen ${\displaystyle F_{0}}$, wie zum Beispiel ${\displaystyle \Phi }$ ist ${\displaystyle {\mathcal {C}}(F_{0})=\mathbb {R} }$. Die Forderung

${\displaystyle F_{n}(x)\to F_{0}(x)\forall x\in \mathbb {R} }$

erweist sich als zu restriktiv.

So gilt im folgenden Beispiel diese Forderung nicht, sondern lediglich jene aus der Definition. ${\displaystyle Y_{n},Y_{0}}$ seien 'entartete' Zufallsvariablen mit ${\displaystyle P(Y_{n}={\frac {1}{n}})=1,P(Y_{0}\to 0)=1}$.

Für ${\displaystyle F_{n}(x)=1_{[{\frac {1}{n}},\infty [}}$ und ${\displaystyle F_{0}(x)=1_{[0,\infty )}}$ gilt:

${\displaystyle {\mathcal {C}}(F_{0})=\mathbb {R} \setminus \lbrace 0\rbrace }$ und ${\displaystyle \lim F_{n}(x)=\left\{{\begin{array}{ll}1,&x>0\\0,&x<0\end{array}}\right.=F_{0}(x)}$

Bei ${\displaystyle x=0}$ gilt: ${\displaystyle 0=lim_{n\to \infty }F_{n}(x)\neq F_{0}(0)=1}$

3. Der nächste Satz zeigt, dass aus stochastischer Konvergenz die Verteilungskonvergenz folgt. Zusammen mit der Konvergenz von Folgen von Zufallsvariablen folgt: ${\displaystyle Y_{n}\to Y}$ ${\displaystyle P}$ fast sicher ${\displaystyle \Rightarrow Y_{n}{\stackrel {P}{\to }}Y_{0}\to Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}}$.

Sind ${\displaystyle Y_{n},n\geq 1}$, und ${\displaystyle Y_{0}}$ Zufallsvariablen (auf einem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {U}},P)}$), mit ${\displaystyle Y_{n}{\stackrel {P}{\to }}Y_{0}}$, so gilt ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}}$.

Sei ${\displaystyle x\in \mathbb {R} }$ und ${\displaystyle \epsilon >0}$ beliebig. Dann folgt aus der Alternative "${\displaystyle Y_{0}-Y_{n}Y_{\epsilon }}$" die Inklusion

${\displaystyle \lbrace w:Y_{n}(w)\leq x\rbrace \subset \lbrace w:Y_{0}(w)\leq x+\epsilon \rbrace \cap \lbrace w:Y_{0}(w)-Y_{n}(w)>\epsilon \rbrace }$

und damit

${\displaystyle P(Y_{n}\leq x)\leq P(Y_{0}\leq x+\epsilon )+P(Y_{0}-Y_{n}>\epsilon ).}$

Wegen ${\displaystyle Y_{n}\to Y_{0}}$ konvergiert der zweite Summand gegen 0, so dass

${\displaystyle limsup_{n\to \infty }P(Y_{n}\leq x)\leq P(Y_{0}\leq x+\epsilon )\equiv F_{0}(x+\epsilon ).}$

Analog: ${\displaystyle liminf_{n\to \infty }P(Y_{n}\leq x)\geq F_{0}(x-\epsilon )}$.

Ist also ${\displaystyle x\in {\mathcal {C}}(F_{0})}$, so folgt mit ${\displaystyle F_{n}(x)=P(Y_{n}\leq x)}$:

${\displaystyle limsup_{n}F_{n}(x)\leq F_{0}(x)\leq liminf_{n}F_{n}(x),}$ d.i. ${\displaystyle limF_{n}(x)=F_{0}(x)}$

Die Umkehrung ist nicht richtig!

Sei ${\displaystyle Y_{0}}$ ${\displaystyle B(1,{\frac {1}{2}})}$-verteilt und ${\displaystyle Y_{n}=1-Y_{0}}$ für alle ${\displaystyle n\geq 1}$. Dann ist jedes ${\displaystyle Y_{n}}$ wieder ${\displaystyle B(1,{\frac {1}{2}})}$-verteilt und damit ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}}$ (sogar ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{=}}Y_{0}}$). ${\displaystyle Y_{n},n\geq 1}$ konvergiert aber nicht stochastisch gegen ${\displaystyle Y_{0}}$, denn für ${\displaystyle \epsilon \in (0,1)}$ ist

${\displaystyle P(|Y_{n}-Y_{0}|>\epsilon ){\stackrel {Y_{n}=1-Y_{0}}{=}}P(|1-2\cdot Y_{0}|>\epsilon )=1\,\forall n\geq 1.}$

Der Stetigkeitssatz für diskrete Wahrschenlichkeitsverteilungen besagt, dass der Limes einer Folge von Wahrscheinlichkeitsfunktionen, d.h.

${\displaystyle a_{n}=lim_{n\to \infty }\rho _{k}^{n},k=0,1,...}$

genau dann ist, wenn der Limes der zugehörenden erzeugenden Funktionen existiert. Zunächst stellen wir fest, das die Aussage eine Verteilungskonvergenz bedeutet.

Sind ${\displaystyle Y_{n},n\geq 1}$, und ${\displaystyle Y_{0}}$ ${\displaystyle \mathbb {Z} _{+}}$-wertige Zufallsvariablen und setzt man ${\displaystyle \rho _{k}^{n}=P(Y_{n}=k),k\in \mathbb {Z} _{+},n=1,2,...}$ so gilt ${\displaystyle \rho _{k}^{0}=lim_{n}\rho _{k}^{n}}$ genau dann, wenn

${\displaystyle P(Y_{o}\in {\mathcal {U}})=lim_{n\to \infty }P(Y_{n}\in {\mathcal {U}})}$

in allen ${\displaystyle A\in \mathbb {Z} }$.

Setzt man ${\displaystyle A=(-\infty ,x]}$, so hat man ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0},n\to \infty }$.

In der allgemeinen Wahrscheinlichkeitstheorie wird der Stetigkeitssatz mit Hilfe der zugehörigen charakteristischen Funktionen ${\displaystyle \phi (n)=E(e^{itY_{n}}),t\in \mathbb {R} }$ formuliert.

Seien ${\displaystyle Y_{n},n\geq 1}$, eine Folge von Zufallsvariablen und ${\displaystyle \phi _{n}}$ die Folge der zugehörenden charakteristischen Funktionen. ${\displaystyle Y_{n}}$ ist verteilungskonvergent gegen eine Zufallsvariable ${\displaystyle Y_{0}}$ genau dann, wenn ${\displaystyle \phi _{n}}$ gegen eine Funktion ${\displaystyle \phi _{0}}$ konvergiert, die an der Stelle 0 stetig ist. ${\displaystyle \phi _{0}}$ ist dann charakteristische Funktion von ${\displaystyle Y_{0}:\phi (0)=E(e^{itY_{0}}),t\in \mathbb {R} }$.

${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}\Leftrightarrow \phi (t)=\phi _{0}(t),\forall t\in \mathbb {R} }$. Die Stetigkeit von ${\displaystyle \phi _{0}}$ bei 0 garantiert erst, dass ${\displaystyle \phi _{0}}$ wieder charakteristiche Funktion einer Zufallsvariablen ist.

Im folgenden Beispiel ist das nicht der Fall.

${\displaystyle Y_{n}}$ sei gleichverteilt auf ${\displaystyle (-n,n)}$. Dann gilt

${\displaystyle \phi _{n}(t)=\left\{{\begin{array}{ll}{\frac {sin(nt)}{nt}},&t\neq 0\\1,&t=0\end{array}}\right.}$

und

${\displaystyle lim\phi _{n}(t)=\left\{{\begin{array}{ll}0,&t\neq 0\\1,&t=0\end{array}}\right.}$

mit bei 0 unstetigen Grenzfunktionen.

Für die Verteilungsfunktion ${\displaystyle F_{n}(x)}$ von ${\displaystyle Y_{0}}$ gilt:

${\displaystyle limF_{n}(x)=lim_{n\to \infty }\left\{{\begin{array}{ll}0,&x<-n\\{\frac {n+x}{2n}},&x\in (-n,n)\\1,&x>n\end{array}}\right\}={\frac {1}{2}},}$

was keine Verteilungsfunktion darstellt. Es gibt kein ${\displaystyle Y_{0}}$ mit ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}}$. Statt ${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}Y_{0}}$, ${\displaystyle Y_{0}}$ ${\displaystyle N(0,1)}$-verteilt, schreibt man auch 'gemischt':

${\displaystyle Y_{n}{\stackrel {\mathcal {D}}{\to }}N(0,1)}$

Nun zeigen wir, dass die standardisierten Partialsummen ${\displaystyle S_{n}^{*}}$ (nehmen jetzt die Rolle von ${\displaystyle Y_{n}}$ ein) verteilungskonvergent gegen die ${\displaystyle N(0,1)}$-Verteilung sind.

Gegebn sei eine Folge ${\displaystyle X_{1},X_{2},...}$ von unabhängigen, identisch verteilten Zufallsvariablen aus ${\displaystyle {\mathcal {L}}_{2}}$ (${\displaystyle \mu \equiv E(X),\sigma ^{2}\equiv Var(X_{i})>0}$). Dann gilt für die Folge

${\displaystyle S_{n}^{*}={\frac {(X_{1}+...+X_{n})n\mu }{{\sqrt {n}}\sigma }}}$

der standardisierten Partialsummen von ${\displaystyle X_{n},n\geq 1}$, die Verteilungskonvergenz

${\displaystyle S_{n}^{*}{\stackrel {\mathcal {D}}{\to }}N(0,1)\,\,n\to \infty }$.

Ist ${\displaystyle \phi (t)}$ die charakteristische Funktion von ${\displaystyle X_{i}-\mu }$ (für alle ${\displaystyle i}$ dieselbe), so lautet die charakteristische Funktion

${\displaystyle \phi _{S_{n}^{*}}=\phi _{n}^{*}={\frac {1}{{\sqrt {n}}\sigma }}\sum _{i=1}^{n}X_{i}-\mu }$

${\displaystyle \phi _{n}^{*}(t)=\phi _{\sum _{i=1}^{n}X_{i}-\mu }({\frac {t}{{\sqrt {n}}\sigma }})=\Pi _{i=1}^{n}\phi ({\frac {t}{{\sqrt {n}}\sigma }})=(\phi ({\frac {t}{{\sqrt {n}}\sigma }}))^{n}}$

Taylorentwicklung von ${\displaystyle \phi (t)}$ an der Stelle ${\displaystyle t=0}$:

${\displaystyle \phi (t)=1+\phi '(0)\cdot t+{\frac {1}{2}}\phi ''(0)\cdot t^{2}+r_{2}(t)}$

mit ${\displaystyle {\frac {r_{2}(t)}{t^{2}}}\to 0}$ bei ${\displaystyle t\to \infty }$.

Nach dem Satz zur Berechnung von Momenten ist

${\displaystyle \phi '(0)=i\cdot E(X_{i}-\mu )=0}$

(*) ${\displaystyle \phi ''(0)=-E(X_{i}-\mu )^{2}=\sigma ^{2}}$,

so dass

${\displaystyle \phi (t)=1-{\frac {1}{2}}\sigma ^{2}t^{2}+r_{2}(t).}$

Das ${\displaystyle \phi _{n}^{*}}$ aus Teil (1) lautet mit Formel (*):

${\displaystyle \phi _{n}^{*}(t)=[1-{\frac {1}{2}}{\frac {t^{2}}{n}}+r_{2}({\frac {t}{{\sqrt {n}}\sigma }})]^{n}=(1-{\frac {t^{2}}{2}}(1+a(t)))^{n}}$

mit

${\displaystyle a(t)={\frac {r_{2}({\frac {t}{{\sqrt {n}}\sigma }})}{\frac {t^{2}}{2n}}}\to 0}$ für ${\displaystyle t\to \infty .}$

Es folgt mit einem ${\displaystyle \epsilon }$-Argument

${\displaystyle \phi _{n}^{*}(t){\stackrel {n\to \infty }{\to }}\epsilon ^{\frac {t^{2}}{2}}\,\,\forall t\in \mathbb {R} .}$

Die charakteristische Funktion der ${\displaystyle N(0,1)}$-Verteilung ist so, dass der Stetigkeitssatz zusammen mit dem Eindeutigkeitssatz die Behauptung liefern.

1. Im Spezialfall unabhängiger, ${\displaystyle N(\mu ,\sigma ^{2})}$-verteilter ${\displaystyle X_{i}}$ ist gemäß dem Beispiel zum Faltungssatz jede ${\displaystyle S_{n}^{*}}$ ${\displaystyle N(0,1)}$-verteilt, so dass hier sogar Gleichheit ${\displaystyle F_{S_{n}}=\Phi }$ für jedes ${\displaystyle n}$ gilt.

2. Im zentralen Grenzwertsatz kann die unabhängig-Voraussetzung nicht ersatzlos gestrichen werden. Als Gegenbeispiel wähle man identische ${\displaystyle X_{1}=X_{2}=...}$.

3. Anwendungsbeispiel: Gewinnung von ${\displaystyle N(0,1)}$-verteilten Zufallsvariablen aus ${\displaystyle U[0,1]}$-verteilten Zufallsvariablen.

Sind ${\displaystyle X_{1},X_{2},...}$ unabhängig und ${\displaystyle U[0,1]}$ gleichverteilt, so ist wegen ${\displaystyle \mu ={\frac {1}{2}},\sigma ^{2}={\frac {1}{12}}}$

${\displaystyle {\frac {S_{n}-{\frac {n}{2}}}{\sqrt {\frac {n}{12}}}}}$

approximiert ${\displaystyle N(0,1)}$-verteilt (${\displaystyle S_{n})=X_{1}+...x_{n}}$).
Für ${\displaystyle n=48}$ ist ${\displaystyle {\frac {S_{n}-24}{2}}}$ angenähert ${\displaystyle N(0,1)}$-verteilt.

• Kurs:Stochastik
• Tschebyscheff-Ungleichung
• P-fast sichere Konvergenz