Für reellwertige Zufallsvariablen

Eine Folge ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ von reellen Zufallsvariablen konvergiert in Wahrscheinlichkeit oder stochastisch gegen die Zufallsvariable ${\displaystyle X}$, wenn für jedes ${\displaystyle \epsilon >0}$ gilt, dass

${\displaystyle \lim _{n\to \infty }P(|X_{n}-X|\geq \epsilon )=0}$

ist. Man schreibt dann ${\displaystyle X_{n}{\stackrel {p}{\rightarrow }}X}$ oder ${\displaystyle X_{n}{\stackrel {P}{\rightarrow }}X}$ oder auch ${\displaystyle \operatorname {plim} (X_{n})=X}$.

Für Zufallsvektoren

Eine Folge ${\displaystyle (\mathbf {X} _{n})_{n\in \mathbb {N} }}$ von Zufallsvektoren mit Werten in ${\displaystyle \mathbb {R} ^{m}}$ konvergiert in Wahrscheinlichkeit oder stochastisch gegen den ${\displaystyle m}$-dimensionalen Zufallsvektor ${\displaystyle \mathbf {X} }$, wenn für jedes ${\displaystyle \epsilon >0}$ gilt, dass

${\displaystyle \lim _{n\to \infty }P(d(\mathbf {X} _{n},\mathbf {X} )\geq \epsilon )=0}$

ist, wobei ${\displaystyle d}$ eine Metrik auf ${\displaystyle \mathbb {R} ^{m}}$ ist. Man schreibt dann ${\displaystyle \mathbf {X} _{n}{\stackrel {p}{\rightarrow }}\mathbf {X} }$ oder ${\displaystyle \mathbf {X} _{n}{\stackrel {P}{\rightarrow }}\mathbf {X} }$ oder ${\displaystyle \operatorname {plim} (\mathbf {X} _{n})=\mathbf {X} }$.
Die verwendete Metrik ${\displaystyle d}$ kann beispielsweise die euklidische Metrik, die Manhattan-Metrik oder die Maximum-Metrik sein. Sie erzeugen dasselbe Konzept der Konvergenz in Wahrscheinlichkeit für Zufallsvektoren.

Allgemeiner Fall

Seien ${\displaystyle (M,d)}$ ein separabler metrischer Raum und ${\displaystyle {\mathcal {B}}(M)}$ die zugehörige Borelsche σ-Algebra. Eine Folge ${\displaystyle (X_{n})_{n\in \mathbb {N} }}$ von Zufallsvariablen auf einem Wahrscheinlichkeitsraum ${\displaystyle (\Omega ,{\mathcal {A}},P)}$ mit Werten in ${\displaystyle (M,{\mathcal {B}}(M))}$ heißt konvergent in Wahrscheinlichkeit oder stochastisch konvergent gegen ${\displaystyle X}$, wenn für alle ${\displaystyle \epsilon >0}$ gilt, dass

${\displaystyle \lim _{n\to \infty }P(d(X_{n},X)\geq \epsilon )=0}$

ist. Dabei wird die vorausgesetzte Separabilität benötigt, um die in der Definition verwendete Messbarkeit der Abbildung ${\displaystyle \Omega \rightarrow \mathbb {R} ,\,\omega \mapsto d(X_{n}(\omega ),X(\omega ))}$, sicherzustellen.

Konvergenz im p-ten Mittel

Aus der Konvergenz im p-ten Mittel folgt für ${\displaystyle p\geq 1}$ unmittelbar die Konvergenz in Wahrscheinlichkeit. Dazu wendet man die Markow-Ungleichung auf die Funktion ${\displaystyle h=Y^{p}}$ an, die für ${\displaystyle p>0}$ monoton wachsend ist, und die Zufallsvariable ${\displaystyle Y=|X_{n}-X|}$ an. Dann folgt

${\displaystyle P(|X_{n}-X|\geq \epsilon )\leq {\frac {1}{\epsilon ^{p}}}\operatorname {E} (|X_{n}-X|^{p})}$,

was im Grenzwert gegen Null geht. Die Umkehrung gilt im Allgemeinen nicht. Ein Beispiel hierfür ist: sind die Zufallsvariablen definiert durch

${\displaystyle P(X_{n}=e^{n\alpha })=e^{-n}=1-P(X_{n}=0)}$

mit ${\displaystyle \alpha >0}$. Dann ist

${\displaystyle \operatorname {E} (|X_{n}|^{1})=e^{n(\alpha -1)}{\xrightarrow[{}]{n\to \infty }}0}$,

wenn ${\displaystyle \alpha <1}$. Also konvergiert die Folge für ${\displaystyle \alpha \in (0,1)}$ im Mittel gegen 0. Für beliebiges ${\displaystyle \epsilon \in (0,1)}$ ist aber

${\displaystyle P(|X_{n}|\geq \epsilon )=P(X_{n}=e^{n\alpha })=e^{-n}{\xrightarrow[{}]{n\to \infty }}0}$. Also konvergiert die Folge für alle ${\displaystyle \alpha }$ in Wahrscheinlichkeit gegen 0.

Ein Kriterium, unter dem die Konvergenz im p-ten Mittel aus der Konvergenz in Wahrscheinlichkeit gilt ist, dass eine Majorante ${\displaystyle Y}$ mit ${\displaystyle \operatorname {E} (|Y|^{p})<\infty }$ existiert, so dass ${\displaystyle P(|X_{n}|\leq Y)=1}$ für alle ${\displaystyle n}$ gilt. Konvergieren dann die ${\displaystyle X_{n}}$ in Wahrscheinlichkeit gegen ${\displaystyle X}$, so konvergieren sie auch im p-ten Mittel gegen ${\displaystyle X}$. Allgemeiner lässt sich eine Verbindung zwischen der Konvergenz im p-ten Mittel und der Konvergenz in Wahrscheinlichkeit mittels des Konvergenzsatzes von Vitali und der gleichgradigen Integrierbarkeit im p-ten Mittel ziehen: Eine Folge konvergiert genau dann im p-ten Mittel, wenn sie gleichgradig integrierbar im p-ten Mittel ist und sie in Wahrscheinlichkeit konvergiert.

Fast sichere Konvergenz

Aus der fast sicheren Konvergenz folgt die Konvergenz in Wahrscheinlichkeit. Um dies zu sehen, definiert man die Mengen

${\displaystyle B_{N}:=\{\omega \in \Omega \colon \forall n\geq N\ \vert X_{n}-X\vert <\epsilon \}{\text{ und }}B:=\bigcup _{N=1}^{\infty }B_{N}}$.

Die ${\displaystyle B_{N}}$ bilden eine monoton wachsende Mengenfolge, und die Menge ${\displaystyle B}$ enthält die Menge

${\displaystyle A:=\{\omega \in \Omega \colon \lim _{n\to \infty }X_{n}=X\}}$

der Stellen, an denen die Folge konvergiert. Nach Voraussetzung ist ${\displaystyle P(A)=1}$ und damit auch ${\displaystyle P(B)=1}$ und demnach ${\displaystyle \lim _{N\to \infty }P(B_{N})=1}$. Durch Komplementbildung folgt dann die Aussage.

Die Umkehrung gilt aber im Allgemeinen nicht. Ein Beispiel hierfür ist die Folge von unabhängigen Bernoulli-Verteilten Zufallsvariablen zum Parameter ${\displaystyle {\tfrac {1}{n}}}$, also ${\displaystyle X_{n}\sim \operatorname {Ber} _{1/n}}$. Dann ist

${\displaystyle \lim _{n\to \infty }P(|X_{n}|\geq \epsilon )=0}$

für alle ${\displaystyle \epsilon >0}$ und somit konvergiert die Folge in Wahrscheinlichkeit gegen 0. Die Folge konvergiert aber nicht fast sicher, man zeigt dies mit dem hinreichenden Kriterium für fast sichere Konvergenz und dem Borel-Cantelli-Lemma.

Bedingungen, unter denen aus der Konvergenz in Wahrscheinlichkeit die fast sichere Konvergenz folgt, sind:

• Die Konvergenzgeschwindigkeit der Konvergenz in Wahrscheinlichkeit ist ausreichend schnell, sprich, es gilt

${\displaystyle \sum _{i=1}^{\infty }P(\vert X_{i}-X\vert \geq \epsilon )<\infty }$.

• Der Grundraum ${\displaystyle \Omega }$ lässt sich als abzählbare Vereinigung von μ-Atomen darstellen. Dies ist bei Wahrscheinlichkeitsräumen mit höchstens abzählbarer Grundmenge immer möglich.
• Ist die Folge der Zufallsvariablen fast sicher streng monoton fallend und konvergiert in Wahrscheinlichkeit gegen 0, so konvergiert die Folge fast sicher gegen 0.

Allgemeiner konvergiert eine Folge in Wahrscheinlichkeit genau dann, wenn jede Teilfolge eine weitere, fast sicher konvergente Teilfolge besitzt. Insbesondere besitzt jede in Wahrscheinlichkeit konvergierende Folge eine fast sicher konvergente Teilfolge (man wähle in „${\displaystyle \Rightarrow }$“ als Ausgangsteilfolge die ganze Folge).

Konvergenz in Verteilung

Aus Konvergenz in Wahrscheinlichkeit folgt nach dem Satz von Slutzky die Konvergenz in Verteilung, der Umkehrschluss gilt im Allgemeinen nicht. Ist beispielsweise die Zufallsvariable ${\displaystyle X}$ Bernoulli-verteilt mit Parameter ${\displaystyle p=q={\tfrac {1}{2}}}$, also

${\displaystyle P(X=1)=P(X=0)={\frac {1}{2}}}$,

und setzt man ${\displaystyle X_{n}=1-X}$ für alle ${\displaystyle n\in \mathbb {N} }$, so konvergiert ${\displaystyle X_{n}}$ in Verteilung gegen ${\displaystyle X}$, da sie dieselbe Verteilung haben. Es gilt aber immer ${\displaystyle |X_{n}-X|=1}$, die Zufallsvariablen können also nicht in Wahrscheinlichkeit konvergieren. Es existieren jedoch Kriterien, unter denen aus der Konvergenz in Verteilung die Konvergenz in Wahrscheinlichkeit folgt. Sind beispielsweise alle Zufallsvariablen ${\displaystyle X_{n}}$ auf demselben Wahrscheinlichkeitsraum definiert und konvergieren in Verteilung gegen die Zufallsvariable ${\displaystyle X}$, die fast sicher konstant ist, so konvergieren die ${\displaystyle X_{n}}$ auch in Wahrscheinlichkeit gegen ${\displaystyle X}$.