Definition der Wahrscheinlichkeit

Eine Möglichkeit der Anwendung von Mathematik ist der Versuch einer Erfassung der Welt in Zahlen. Während die Konkretisierung von Zahlkonzepten für Größen wie Länge, Masse oder Zeit durch eine Messung – also den Vergleich mit einer (normierten) Maßeinheit wie der standardisierten Einheit einer Basisgröße – gelingt, blieb die quantitative Erfassung von Wahrscheinlichkeiten lange Zeit problematisch. Ein Wahrscheinlichkeitsmaß exakt zu definieren und so auch den damit implizierten Begriff der Wahrscheinlichkeit, gelang erst 1933 durch die Axiome von Kolmogorow. Damit wurde jedoch nicht geklärt, was Wahrscheinlichkeit explizit wäre, sondern nur herausgearbeitet, welche strukturellen Merkmale ein Wahrscheinlichkeitsmaß erfüllen muss, um brauchbar zu sein. Die Interpretation der Axiome bleibt insoweit noch eine offene Frage und hier bestehen weiterhin unterschiedliche Auffassungen.

Im Laufe der Zeit bildeten sich zwei Denkschulen, die unabhängig voneinander bestanden, ohne sich gegenseitig auszuschließen. Der Frequentismus entstand im Zuge der Untersuchung von Glücksspielen als standardisierte und beliebig oft unter gleichbleibenden Bedingungen wiederholbare Zufallsexperimente. Hier zeigte die Beobachtung, dass die relative Häufigkeit eines Experimentsausgangs mit zunehmender Wiederholungsanzahl konvergiert. Nach frequentistischer Definition entspricht die Wahrscheinlichkeit eines Ereignisses genau diesem Grenzwert – oder wie es der französische Stochastiker Paul Lévy ausdrückte: „Die Wahrscheinlichkeit ist wie die Masse von Gegenständen eine physikalische Größe, und die Häufigkeit ist ein Messinstrument für diese Größe, die wie alle physikalischen Messinstrumente mit gewissen unvorhersehbaren Messfehlern behaftet ist.“ So einleuchtend diese Definition im Falle von Glücksspielen oder auch in der Physik ist, so unbrauchbar erscheint sie für Prozesse, die nicht wiederholt werden können.

Dieses Problem besteht nicht, wenn man die Wahrscheinlichkeitsauffassung der zweiten Denkschule, des Bayesianismus, heranzieht. Hier ist Wahrscheinlichkeit ein Maß dafür, wie sehr man vom Eintreten eines gewissen Ereignisses überzeugt ist. Dabei spielt es formal keine Rolle, ob das Ereignis tatsächlich zufällig ist, oder ob der Ausgang lediglich unbekannt ist. Dieser pragmatische Zugang ermöglicht es, auf philosophische Vorüberlegungen zum Wesen und zur Existenz des Zufalls zu verzichten – ein Umstand, der diese Auffassung vor allem in der Statistik beliebt macht. Ein wesentlicher Nachteil ist, dass die Definition über die Überzeugung des Betrachters eine unerwünschte Subjektivität einführt. Dazu kommt, dass die Wahrscheinlichkeit hier im Gegensatz zum Frequentismus nicht intuitiv auf eine mathematisch sinnvolle numerische Skala abgebildet werden kann. Zur Abbildung müssen Gedankenexperimente der Form „Wie viel wären Sie bereit, auf das Eintreffen dieses Ereignisses zu wetten?“ herangezogen werden, was wiederum unvermeidlich zu Schwierigkeiten beim Thema Risikoaversion führt.

Obwohl nicht grundsätzlich unvereinbar, so haben diese beiden ideologisch verschiedenen Ansätze doch lange Zeit verhindert, dass sich eine einheitliche mathematische Theorie und eine einheitliche Notation herausbildeten.

Skepsis von Seiten anderer Wissenschaften

Über Jahrhunderte zog sich die Wahrscheinlichkeitsrechnung immer wieder die Skepsis anderer wissenschaftlicher Disziplinen zu. Dies kann man auf zwei Aspekte oder Gründe zurückführen:

• die Begriffe Zufall und Wahrscheinlichkeit lassen sich nur mit Mühe definieren und wissenschaftlich quantifizieren.
• Jeder Versuch, andernfalls nicht oder nur unzureichend prognostizierbare Phänomene (etwa das Wetter, Börsenkurse oder den Ausgang eines Würfelwurfs) stochastisch zu deuten, konnte als Konkurrenz zu einer anderen Wissenschaft gesehen werden.

Von Seiten der Theologie und der Kirche etwa wurde der Versuch, mit Wahrscheinlichkeitsrechnung den „unergründlichen Wegen des Herrn“ näher zu kommen, die man tagtäglich in der Natur beobachten konnte, lange als Blasphemie bezeichnet – die Begriffe Zufall und Schicksal liegen nahe beisammen. Zusätzlich störte man sich von Seiten der Kirche daran, dass in frühen Jahren das Hauptanwendungsgebiet im Glücksspiel lag, das sie seit jeher ablehnte. Bemerkenswert erscheint, dass Zufallsprozesse sowohl im alten (Orakelsteine Urim und Tummim, Exodus 28,30) als auch im neuen Testament (bei der Wahl des Matthias als Nachfolger des Judas durch Losentscheid, Apostelgeschichte 1,23–26) eine Rolle spielen, wenn es darum geht, Gottes Willen zu ergründen. In der Tradition des Widerstreits zwischen Christentum und Stochastik steht letztendlich auch die andauernde Debatte um Evolution und Kreationismus beziehungsweise Intelligent Design. Die Evolutionstheorie sieht die Entwicklung der Lebewesen als Ergebnis eines durch zufällige Mutationen angetriebenen, randomisierten Optimierungsprozesses, während Kreationisten dahinter einen festen Schöpfungsplan vermuten.

Doch auch die Naturwissenschaftler der Aufklärung begegneten der Stochastik mit Skepsis, da sie sie als „Bankrotterklärung“ vor der Natur betrachteten. Schließlich seien alle Phänomene durch deterministische Naturgesetze vollständig erklärbar, wenn man nur genau genug messe und alle Gesetze durch Experimente ergründe. Somit gebe es so etwas wie Zufall überhaupt nicht, was auch die Existenz einer seriösen Wahrscheinlichkeitsrechnung ausschließe.

Selbst innerhalb der Gemeinschaft der Mathematiker war die Idee einer Wahrscheinlichkeitstheorie nicht ganz unumstritten. Zu offensichtlich schien der Widerspruch zwischen der Stochastik als Wissenschaft unsicherer Ereignisse und dem Anspruch der Mathematik als Lehre wahrer Aussagen, unumstößlicher Schlussfolgerungen und gesicherter Erkenntnisse. Beispiel: Entweder hat eine Variable ${\displaystyle X}$ den Wert fünf, oder sie hat ihn nicht. Im ersten Fall ist die Wahrscheinlichkeit für das Ereignis ${\displaystyle X=5}$ gleich 1 oder 100 Prozent, ansonsten ist sie 0 Prozent, und für Werte dazwischen schien in der Mathematik kein Platz. Sogar Bertrand Russell, Literaturnobelpreisträger und Vordenker der Philosophie der Mathematik im frühen 20. Jahrhundert (Principia Mathematica, 1910), war dieser Ansicht: „Wie können wir nur von den Gesetzen der Wahrscheinlichkeit sprechen? Ist Wahrscheinlichkeit nicht die Antithese zu jeglichem Gesetz?“ Erst die exakte axiomatische Begründung der Stochastik in den Jahren 1901–1933 konnte diesen Widerspruch letztendlich auflösen.

Stochastische Paradoxa

Ein zusätzliches Hindernis bei der Entwicklung der Wahrscheinlichkeitsrechnung war es auch, dass die berechneten Ergebnisse oftmals der menschlichen Intuition zuwiderlaufen. Insbesondere im Zusammenhang mit stochastischer Unabhängigkeit und bedingter Wahrscheinlichkeit treten vielfach Fälle auf, die scheinbar widersprüchliche oder widersinnige Ergebnisse zur Folge haben. Solche Phänomene werden gemeinhin als stochastische Paradoxa bezeichnet, obwohl hier der Begriff des Paradoxons nicht immer zutreffend ist.

• Beim Gefangenenparadoxon sind die Personen A, B und C zum Tode verurteilt, jedoch wird einer der drei per Losverfahren begnadigt. Damit ist die Wahrscheinlichkeit für A, zu überleben, gleich ${\displaystyle {\frac {1}{3}}}$. Nennt der Gefängniswärter A jedoch nach dem Losvorgang den Namen eines der beiden Mitgefangenen, der nicht begnadigt wird (mindestens eine der beiden anderen Personen wird garantiert hingerichtet), so bleiben nur noch zwei Kandidaten für die Begnadigung übrig und die Überlebenswahrscheinlichkeit für A müsste demnach auf ${\displaystyle {\frac {1}{2}}}$ steigen. Es ist allerdings kaum vorstellbar, dass diese Information (dass mindestens einer der anderen hingerichtet wird, wusste A schließlich schon vorher) tatsächlich die Chance von A auf eine Begnadigung erhöhen sollte, und in diesem Fall ist es auch nicht so: die Überlebenswahrscheinlichkeit beträgt weiterhin ${\displaystyle {\frac {1}{3}}}$. Allerdings ist gleichzeitig die Überlebenswahrscheinlichkeit für den nicht-genannten Mitgefangenen auf ${\displaystyle {\frac {2}{3}}}$ gestiegen.

• Das Kugelparadoxon, auch Bertrand-Paradoxon genannt, wurde 1889 in einem Lehrbuch von Joseph Bertrand aufgestellt. Es lautet: wird ein Punkt zufällig gleichverteilt auf der Oberfläche einer Kugel (etwa der Einschlagpunkt eines Meteoriten auf der Erde) ausgewählt, wie groß ist dann die Wahrscheinlichkeit, dass dieser Punkt von einem vorher fest gewählten Punkt (etwa dem im selben Jahr fertiggestellten Eiffelturm) einen Abstand von weniger als 10 Winkelminuten hat, dass also der Eiffelturm und der Zufallspunkt mit dem Erdmittelpunkt einen Winkel von weniger als ${\displaystyle {\frac {10}{60}}}$ Grad einschließt? Eine Möglichkeit, diese Wahrscheinlichkeit zu berechnen, besteht darin, die Fläche der in Frage kommenden Punkte (also die Oberfläche der Kappe um den Eiffelturm mit Radius 10 Winkelminuten) durch die Gesamtoberfläche der Kugel zu teilen, was etwa ${\displaystyle 2{,}1\cdot 10^{-6}}$ ergibt. Bertrand schlug aber noch eine zweite Lösung vor: da es für den Abstand irrelevant ist, auf welchem Großkreis durch den Eiffelturm der Punkt liegt und alle Großkreise gleich wahrscheinlich sind, genügt es, exemplarisch einen solchen Großkreis zu betrachten. Dann beträgt die Wahrscheinlichkeit einfach ${\displaystyle {\frac {20}{360\cdot 60}}\approx 9{,}2\cdot 10^{-4}}$, da von 360 Grad genau 20 Bogenminuten oder ${\displaystyle {\frac {20}{60}}}$ Grad in Frage kommen. Bertrands Ansicht nach war keine der beiden Antworten falsch, sondern lediglich die Gleichverteilung auf der Mannigfaltigkeit der Kugeloberfläche nicht wohldefiniert.

Während das Gefangenenparadoxon noch mit verhältnismäßig einfachen stochastischen Hilfsmitteln auflösbar ist, beweist das zweite Problem, dass die Wahrscheinlichkeitstheorie auch zum Ende des 19. Jahrhunderts noch nicht weit genug entwickelt war, um Zufallsphänomene auf einem Kontinuum zweifelsfrei wiederzugeben.

Doch nicht nur die bedingte Wahrscheinlichkeit, die in der ein oder anderen Form der erwähnten Paradoxa eine Rolle spielt, verleitet bisweilen zu Trugschlüssen; auch der Begriff der stochastischen Unabhängigkeit läuft der Intuition oft zuwider. Als Beispiel sei das folgende einfache Spiel genannt: ein gewöhnlicher, sechsseitiger Würfel wird zweimal hintereinander geworfen und die Augenzahlen addiert. Das Spiel ist gewonnen, falls die Summe der Augen eine gerade Zahl ist, andernfalls verliert der Spieler. Nun ist der Ausgang des Spiels (also ob das Ereignis „Spiel gewonnen“ eintritt oder nicht) vom Ausgang des zweiten Wurfs unabhängig. Obwohl sich dieses Ergebnis anhand der Definition der stochastischen Unabhängigkeit leicht nachprüfen lässt, ist es insofern verblüffend, als der zweite Wurf das Spiel ja endgültig entscheidet.

Mögen diese Probleme heute eher wie mathematische Spielereien erscheinen, so darf dabei nicht vernachlässigt werden, dass heute bereits eine voll entwickelte und widerspruchsfreie Wahrscheinlichkeitstheorie zur Verfügung steht. Jedoch mussten erst Begriffe wie Unabhängigkeit und bedingte Wahrscheinlichkeit definiert werden, was schwerfällt, wenn die aus heutiger Sicht einzigen sinnvollen Definitionen zu Trugschlüssen wie den oben erwähnten führen können. Dies mag eine Erklärung dafür sein, dass sich eine konsistente mathematische Wahrscheinlichkeitstheorie nicht bereits früher entwickelte.

Cardanos Liber de Ludo Aleae

Es dauert bis ins 16. Jahrhundert, ehe die erste nachweisbare stochastische Publikation entstand. Gerolamo Cardano, italienischer Universalgelehrter und einer der einflussreichsten Mathematiker seiner Zeit, legte in seinem ab 1524 entstandenen Werk Liber de Ludo Aleae (das Buch vom Würfelspiel) den Grundstein der Theorie diskreter Zufallsprozesse. Spiele mit bis zu drei Würfeln werden hier (wie zu dieser Zeit üblich fast durchgehend in Prosa) beinahe vollständig besprochen, daneben finden sich aber auch philosophische Gedanken zu Glück (Kapitel XX: De fortuna in Ludo, über das Glück im Spiel), Risikofreude und -scheue (Kapitel XXI: De timore in iactu, über die Furcht vor dem Wurf), Spielsucht (Kapitel IV: Utilitas ludi, & damna, Nutzen und Schaden des Spiels) sowie auch ein eigenes Kapitel über effektive Wege des Betrugs (Kap. XVII: De dolis in huiusmodi Ludis, über die List in so gearteten Spielen). Zusätzlich werden auch Kartenspiele diskutiert, die in Europa ab dem 15. Jahrhundert immer beliebter geworden waren, die aber Cardanos Aufmerksamkeit weitaus weniger erregten als das Hazard, ein wahrscheinlich von Kreuzfahrern aus dem Orient importiertes Würfelspiel.

An einer Veröffentlichung seiner Ergebnisse war Cardano offenbar lange Zeit nicht gelegen, nutzte er doch einen Informationsvorsprung, um regelmäßig mehr zu gewinnen als er einsetzte, und dadurch zum Teil auch sein Studium zu finanzieren. Doch der notorische Spieler verfiel der Spielsucht und verspielte in seinem späteren Leben das meiste seines Vermögens und seines guten Rufes. Sein Buch wurde erst 1663 posthum veröffentlicht, als unlängst andere Gelehrte auf die Wahrscheinlichkeitstheorie aufmerksam geworden waren.

Das Teilungsproblem

Es sollte bis weit ins 17. Jahrhundert dauern, ehe sich wieder Mathematiker erfolgreich mit dem Zufall beschäftigten, und wie in vielen anderen Wissenschaften hatte sich das Zentrum mittlerweile von Italien nach Frankreich verlegt. Blaise Pascal, einer der einflussreichsten Mathematiker und Religionsphilosophen seiner Zeit, beschrieb am 29. Juli 1654 in einem Brief an seinen Kollegen Pierre de Fermat zwei Probleme, die ihm sein Freund Antoine Gombaud, Chevalier de Méré, zugetragen hatte und die seither als De-Méré- oder Würfelproblem (frz. problème des dés) und Teilungsproblem (problème de partis) bekannt sind:

• Das Würfelproblem beschäftigt sich mit einem einfachen Glücksspiel. Die Wahrscheinlichkeit, mit einem Würfel in vier Versuchen mindestens eine Sechs zu werfen, beträgt mit ${\displaystyle {\tfrac {671}{1296}}}$ knapp mehr als 50 Prozent. Versucht man hingegen, mit zwei Würfeln eine Doppelsechs zu erzielen – wofür die Wahrscheinlichkeit jeweils ${\displaystyle {\tfrac {1}{36}}}$, also nur ein Sechstel des Ein-Würfel-Falls beträgt – und macht dafür entsprechend sechsmal so viele, also 24 Würfe, so liegt die Siegchance knapp unter 50 Prozent. Nach de Méré hätte aber die gleiche Wahrscheinlichkeit wie zuvor herauskommen müssen, sodass er einen Rechenfehler vermutete.
• Das Teilungsproblem behandelt ein fiktives Spiel, bei dem der Spieler, der zuerst eine festgesetzte Anzahl von fairen Runden für sich entscheidet (bei denen jeder Spieler also je eine Siegchance von 50 Prozent besitzt, unabhängig vom Ausgang der vorangegangenen Runden), einen Geldpreis gewinnt. Das Spiel wird aber durch höhere Gewalt vor der Entscheidung abgebrochen, sodass der Betrag nun abhängig vom derzeitigen Spielstand gerecht geteilt werden soll.

Während sich die Partner des Briefwechsels beim ersten Problem schnell einig waren, dass de Mérés „Proportionalitätsansatz“ (sechsmal niedrigere Wahrscheinlichkeit, also sechsmal so viele Versuche für gleiche Siegeschancen) naheliegend, aber falsch sei und demnach kein Widerspruch bestünde, bereitete das zweite größere Schwierigkeiten, da hier die Frage der Gerechtigkeit vage gestellt war und erst sinnvoll mathematisch formuliert werden musste. Letztendlich kamen sie zu dem Entschluss, dass der Einsatz gemäß den Gewinnwahrscheinlichkeiten aufgeteilt werden müsse, und Pascal zeigte auf, wie diese mit Hilfe der Kombinatorik und speziell dem von ihm unlängst entwickelten Pascalschen Dreieck berechnet werden könnten. Die Wahrscheinlichkeit, dass ein Spieler von n ausstehenden Spielen genau k gewinnt, betrage demnach ${\displaystyle {\tbinom {n}{k}}\cdot {\tfrac {1}{2^{n}}}}$, wobei der Binomialkoeffizient ${\displaystyle {\tbinom {n}{k}}}$ dem Pascalschen Dreieck zu entnehmen sei.

Leibniz hatte während seines Parisaufenthalts vom Teilungsproblem gehört und den Nachlass von Pascal eingesehen. Er kannte auch die Schriften von Christiaan Huygens zur Wahrscheinlichkeitsrechnung. 1678 formulierte er in „De incerti aestimatione“ einen eigenen Lösungsvorschlag zum Teilungsproblem. Diese Arbeit existierte nur als Handschrift und wurde erst 1957 veröffentlicht. Leibniz kam zu einem etwas anderen Ergebnis als Pascal und Fermat, obwohl er deren Lösung kannte. Leibniz hatte eine andere Gerechtigkeitsvorstellung als Pascal und Fermat, die heute so interpretiert und in Form eines Leistungsprinzips etwas vereinfacht so ausgedrückt werden kann: „Gleicher Lohn für gleiche Leistung“.

Das Teilungsproblem war bereits vor de Méré bekannt und kann inzwischen bis 1380 zurückverfolgt werden und auch schon Cardano, sowie seine Zeitgenossen Nicolo Tartaglia, Luca Pacioli und Giobattista Francesco Peverone hatten ihrerseits Lösungen angeboten. Die Lösungen von Cardano, Pacioli und Tartaglia unterscheiden sich von Pascals und Fermats aus heutiger Sicht richtigem Vorschlag teilweise stark, da sie mit Mitteln kaufmännischer Gewinn- und Verlustrechnung oder eher wie de Méré mit Proportionen denn kombinatorisch argumentierten. Peverone erhielt fast die nach heutiger Sicht richtige Lösung. Wie sie zustande gekommen ist, kann aber erst erforscht werden, wenn seine Schrift „Due breve e facili trattati“ öffentlich zugänglich gemacht wird. Die italienischen Mathematiker verloren um die Mitte des 16. Jahrhunderts die Überzeugung, dass es eine „richtige“ mathematisch ermittelbare Lösung gibt. Tartaglia äußerte die Meinung, das Problem könne eher juristisch als mit Vernunft gelöst werden. Da Pascal und Fermat von den Bemühungen der Italiener aber nichts gewusst haben dürften, spätere Publikationen jedoch stets auf ihren Überlegungen aufbauten, gilt der Briefwechsel von 1654 vielen als Geburtsstunde der Stochastik.

Niederländische Schule

Stand der Briefwechsel von Pascal und Fermat auch am Anfang der Entwicklung modernen stochastischen Kalküls, so wurde dieser doch erst 1679, also nach dem Tod der beiden, veröffentlicht. Damit gebührt die Ehre der frühesten gedruckten stochastischen Publikation dem niederländischen Mathematiker und Physiker Christiaan Huygens, der schon 1655 bei einem Parisaufenthalt vom Diskurs der beiden Franzosen gehört hatte und daraufhin 1657 in Leiden seine Abhandlung De Ratiociniis in Ludo Aleae (Über Schlussfolgerungen im Würfelspiel) veröffentlichte. Huygens Einsicht in die Logik der Spiele und die Frage der Gerechtigkeit derselben geht dabei weit über das hinaus, was Cardano, Pascal und Fermat diskutierten. Auch für unsymmetrische Spiele mit unterschiedlichen Einsätzen oder Gewinnen fand er mit Hilfe eines Indifferenzprinzips (ein Spiel ist demnach gerecht, wenn alle Parteien bereit wären, ihre Rolle mit der der anderen zu tauschen) faire Einsätze und entwickelt dabei einen der bis heute zentralen stochastischen Begriffe: den Erwartungswert. Dadurch ließ sich die Frage nach der Gerechtigkeit auf das einfache Kriterium „erwarteter Gewinn = Einsatz“ reduzieren, womit auch das de-Mérésche Teilungsproblem gelöst war.

Mit den Niederlanden war die Wahrscheinlichkeitsrechnung in einem der Zentren der damaligen Finanzbranche angelangt und hielt dort bald Einzug in die Finanzmathematik. Der Ratspensionär Johan de Witt, eine der einflussreichsten Gestalten in Hollands goldenem Zeitalter und daneben Hobbymathematiker, diskutierte in Waardije van Lijf-renten naer Proportie van Los-renten (der Wert von Leibrenten verglichen mit Amortisationen, 1671) mit Huygens’ Methoden staatliche Leibrenten, die damals Witwen angeboten wurden. Er verwendete dabei das erste bekannte stochastische Mortalitätsmodell und kam zu dem Ergebnis, dass die ausgezahlten Renten aus Sicht des Staates unvernünftig hoch seien. Der Tatsache, dass de Witt als Beamter keine privaten finanziellen Interessen verfolgte, sondern seine Entscheidung der Öffentlichkeit gegenüber rechtfertigen musste, verdankt die Nachwelt wohl die Veröffentlichung seiner Berechnungen. Gerüchten zufolge soll die von ihm veranlasste Rentensenkung auch eine Ursache für einen Volksaufstand im folgenden Jahr gewesen sein, an dessen Ende de Witt gelyncht wurde.

Erste Fundamentalsätze

Die Wahrscheinlichkeitsrechnung im 18. Jahrhundert wurde durch zwei bedeutende Werke geprägt, wobei zum ersten Mal eine Abkehr vom Glücksspiel hin zu anderen Anwendungsbereichen deutlich wird. Zum einen erschien 1713 in Basel Ars conjectandi (Die Kunst des Vermutens) von Jakob I Bernoulli, eine unvollendete Abhandlung, die posthum (Bernoulli war bereits 1705 gestorben) aus seinen Tagebüchern veröffentlicht wurde. Aufbauend auf Huygens Vorarbeit finden sich hier bahnbrechende Erkenntnisse auf dem Gebiet der Kombinatorik (beispielsweise taucht hier erstmals der Begriff Permutation auf) und eine vollständige Diskussion der Binomialverteilung, aber es wurden auch erstmals unendliche Folgen von identischen Zufallsprozessen untersucht. Diese sind für den Spezialfall zweier möglichen Ausgänge noch heute als Bernoulli-Ketten bekannt. Die Konvergenz der relativen Häufigkeit gegen die Wahrscheinlichkeit eines Ereignisses wurde von Bernoulli nicht als Axiom vorausgesetzt, sondern in einem Satz geschlossen. Ausgehend davon formulierte er auch die früheste Version des Gesetzes der großen Zahlen, heute einer der zwei wichtigsten Sätze der Stochastik. Eine präzise Definition der Wahrscheinlichkeit blieb aber auch Bernoulli schuldig, er hielt diese aber auch nicht für nötig, da es seines Erachtens keinen Zufall gibt, nur unvollständige Information. Jemand, der um den Lauf der Gestirne nicht weiß, könne demnach auf eine Sonnenfinsternis ebenso wetten wie auf einen Münzwurf. Diese Ansicht macht Bernoulli praktisch zum ersten erklärten Bayesianer. Bemerkenswert ist ferner die Tatsache, dass Bernoullis Hauptinteresse neben den erwähnten Konvergenzaussagen darin bestand, die Stochastik auf die Rechtsprechung anzuwenden, wo es schließlich gilt, aufgrund von unvollständiger Information die Glaubwürdigkeit einer Aussage zu beurteilen (also im bayesschen Sinne die Wahrscheinlichkeit einer wahren Aussage zu bestimmen). Dieser Versuch, mathematisches mit juristischem Schlussfolgern zu versöhnen, wurde allerdings nie ernsthaft praktiziert.

Der zweite wesentliche Durchbruch dieser Zeit gelang Abraham de Moivre, einem nach England geflohenen Hugenotten. An der Royal Society veröffentlichte er 1718 The Doctrine of Chances (Die Lehre von der Wahrscheinlichkeit), ein Werk, das die neue englische Schule der Stochastik in den nächsten hundert Jahren wesentlich beeinflussen sollte. Die größte Leistung de Moivres war sicherlich die Formulierung eines zentralen Grenzwertsatzes (neben dem Gesetz der großen Zahlen der zweite fundamentale Satz der Stochastik), heute als Satz von Moivre-Laplace bekannt, und dadurch auch die Einführung der Normalverteilung. Letztere hatte hier allerdings noch nicht den Status einer eigenständigen Wahrscheinlichkeitsverteilung, sondern fungierte lediglich als Grenzwert von diskreten Wahrscheinlichkeiten. Als Hilfsmittel taucht hier erstmals die wahrscheinlichkeitserzeugende Funktion von Verteilungen auf.

Englische Statistiker und französische Probabilisten

Die Arbeiten Bernoullis und de Moivres legten den Grundstein für das, was in den Folgejahren als Theorie der Fehler und später als Statistik bekannt wurde. In den Naturwissenschaften, wo zumeist versucht wird, Gesetzmäßigkeiten zunächst durch Messungen aufzuspüren, kam man immer öfter in Situationen, wo Messungen mit zu großer Ungenauigkeit behaftet waren oder (insbesondere in der Astronomie) nicht beliebig oft wiederholt werden konnten, sodass man dazu übergehen musste, Fehler als Teil des Modells zu verstehen und sie mathematisch zu behandeln. Bernoulli hatte in Ars Conjectandi bereits gezeigt, dass die Wahrscheinlichkeitsrechnung dazu ein geeignetes Werkzeug ist – unabhängig davon, ob man an die zufällige Natur der Fehler glaubt oder nicht.

Der nächste bedeutende Schritt in diese Richtung gelang dem englischen Mathematiker und Pfarrer Thomas Bayes, dessen Hauptwerk An Essay towards solving a Problem in the Doctrine of Chances (Eine Abhandlung zur Lösung eines Problems durch die Wahrscheinlichkeitslehre) 1764 – ebenfalls posthum – veröffentlicht wurde. Darin wird zum einen die bedingte Wahrscheinlichkeit formal eingeführt – bisher war immer stillschweigend von Unabhängigkeit ausgegangen worden –, was in einen Spezialfall des heute sogenannten Satzes von Bayes mündete. Daneben zeigte Bayes als Erster die noch heute gültige Dualität von Stochastik und Statistik auf. Während die Stochastik auf Grundlage von gegebenen Verteilungen auf die Wahrscheinlichkeit zukünftiger Ereignisse zu schließen versucht (bei Bayes: forward probability), ist das Ziel der Statistik, auf Grundlage beobachteter Ereignisse Rückschlüsse auf die ursprüngliche Verteilung zu ziehen (backward probability). Dieses Paradigma legte den Grundstein für die Bayessche Statistik und läutete eine bis heute gültige Vorherrschaft der angelsächsischen Schule auf dem Gebiet der mathematischen Statistik ein (später vertreten durch Francis Galton, William „Student“ Gosset, Karl Pearson, R. A. Fisher oder Jerzy Neyman).

Währenddessen schien die Wahrscheinlichkeitsrechnung in ihrer damaligen Form, die immer noch auf dem Fundament von Pascal und Huygens beruhte, an ihre Grenzen zu stoßen. In immer mehr Anwendungsbereichen wurde es notwendig, sich mit stetigen Verteilungen auseinanderzusetzen, also solchen, die überabzählbar viele Werte annehmen können. Dies schließt aber aus, dass die einzelnen Werte alle mit positiver Wahrscheinlichkeit auftreten, und Ereignisse der Wahrscheinlichkeit null wurden zu jener Zeit als unmöglich interpretiert. Diesen scheinbaren Widerspruch, dass sich Zufallsexperimente aus lauter unmöglichen Ereignissen zusammensetzen sollten, konnten die Mathematiker noch bis ins zwanzigste Jahrhundert nicht völlig schlüssig ausräumen, obwohl sie bereits erste Erfahrungen mit Dichten von Verteilungen machten, soweit es die damalige Integrationstheorie zuließ.

Derweil wandte sich die Forschung in der von Frankreich dominierten kontinentalen Schule mehr der Erfassung des Wesens von Zufall und Wahrscheinlichkeit zu. Daher verwundert es nicht, dass die wichtigsten Beiträge zu jener Zeit mit Marie Jean Antoine Nicolas Caritat, Marquis de Condorcet (Essai sur l’application de l’analyse à probabilité des décisions (1785), Abhandlung zur Anwendung der Wahrscheinlichkeitsrechnung in Entscheidungen) und Jean Baptiste le Rond d’Alembert (Beiträge über Wahrscheinlichkeit in der Encyclopédie) Autoren hatten, die heute gleichermaßen als Philosophen wie als Mathematiker gelten. Das Hauptwerk aus jener Zeit ist Théorie Analytique des Probabilités (Mathematische Wahrscheinlichkeitstheorie, 1812) von Pierre-Simon Laplace, das einerseits alle bis dahin erzielten Erfolge auf dem Gebiet der Stochastik zusammenfasst, andererseits auch den Versuch einer neuen Philosophie des Zufalls wagt. Laplaces Zugang zur Wahrscheinlichkeit war intuitiv, da er hinter allen Phänomenen eine Gleichverteilung vermutete (siehe Stetige Gleichverteilung, die nicht mit der nach Laplace benannten Laplace-Verteilung zu verwechseln ist). Bisweilen wird der Laplacesche Wahrscheinlichkeitsbegriff auch als autonomer, dritter Zugang neben Frequentismus und Bayesianismus angesehen. Daneben deutete er auch Grenzen der menschlichen Erkenntnis auf dem Gebiet der Naturwissenschaft an (Laplacescher Dämon), womit er von der die letzten Jahrhunderte dominierenden Wissenschaftsphilosophie der Aufklärung zugunsten einer Physik des Zufalls abrückte.

Weitere bedeutende Durchbrüche verzeichneten dieser Jahre Carl Friedrich Gauß und Adrien-Marie Legendre, die 1795 beziehungsweise 1806 unabhängig voneinander die Methode der kleinsten Quadrate auf Grundlage normalverteilter Fehler entwickelten, Siméon Denis Poisson, ein Schüler Laplaces (Poisson-Verteilung), und Pafnuti Lwowitsch Tschebyschow (Tschebyschow-Ungleichung, Verallgemeinerung des Gesetzes der großen Zahlen), der, gefördert vom französischen Mathematiker Joseph Liouville und von Poisson, eine an die französische angelehnte russische Schule begründete. Daneben existierte gegen Ende des 19. Jahrhunderts auch eine wenig einflussreiche deutsche Schule, deren Hauptwerk Principien der Wahrscheinlichkeitsrechnung (1886) von Johannes von Kries die Stochastik mit den Ideen Kants zu vereinen versuchte und dazu eine mathematische Theorie der Spielräume heranzog, die sich aber nach von Kries Tod nicht weiter verbreiten konnte, obgleich von Kries Ideen die späteren Arbeiten Ludwig Wittgensteins beeinflussen sollten.