WAHRSCHEINLICHKEITSTHEORIE I und II

Wolfgang Konig

TU Berlin und WIAS Berlin

Vorlesungsskript

SS 2005 und WS 2005/06

uberarbeitet im WS 2008/09

kleine Korrekturen im Marz und Juli 2012 und im Marz 2013

2

Version vom Marz 2013

Inhaltsverzeichnis

1 Diskrete Wahrscheinlichkeitsraume 3

1.1 Grundbegriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2 Urnenmodelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6

1.3 Weitere Beispiele von Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . 8

2 Bedingte Wahrscheinlichkeit und Unabhangigkeit 13

2.1 Bedingte Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2.2 Unabhangigkeit von Ereignissen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.3 Produktraume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3 Zufallsgroen, Erwartungswerte und Varianzen 21

3.1 Zufallsgroen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

3.2 Unabhangigkeit von Zufallsgroen . . . . . . . . . . . . . . . . . . . . . . . . . . 23

3.3 Erwartungswerte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

3.4 Varianzen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

3.5 Kovarianzen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

3.6 Faltungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

3.7 Erzeugende Funktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

4 Wahrscheinlichkeit mit Dichten 41

4.1 Grundbegriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41

4.2 Ubertragung der bisherigen Ergebnisse . . . . . . . . . . . . . . . . . . . . . . . . 42

4.3 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46

4.4 Der Poisson-Prozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50

5 Grenzwertsatze 55

5.1 Das Gesetz der Groen Zahlen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

5.2 Der Zentrale Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

6 Matheorie 63

6.1 -Algebren und Mae . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

i

ii INHALTSVERZEICHNIS

6.2 Konstruktion von Maen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68

6.3 Verteilungsfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

6.4 Messbare Abbildungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

6.5 Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76

6.6 Bildmae und Dichten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79

6.7 Die Lp-Raume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81

6.8 Die fundamentalen Konvergenzsatze . . . . . . . . . . . . . . . . . . . . . . . . . 84

6.9 Produkte messbarer Raume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

6.10 Produktmae . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

7 Die allgemeine Wahrscheinlichkeitstheorie 93

7.1 Grundlegende Begriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93

7.2 Unabhangigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96

7.3 Bedingte Erwartungswerte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

8 Konvergenzbegriffe 115

8.1 Konvergenz von Zufallsgroen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

8.2 Schwache Konvergenz und der Satz von Prohorov . . . . . . . . . . . . . . . . . . 122

8.3 Charakteristische Funktionen und der Zentrale Grenzwertsatz . . . . . . . . . . . 132

9 Markovketten 143

9.1 Definition und einfache Eigenschaften . . . . . . . . . . . . . . . . . . . . . . . . 143

9.2 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147

9.3 Klasseneigenschaften, Rekurrenz, Transienz . . . . . . . . . . . . . . . . . . . . . 148

9.4 Stoppzeiten und die starke Markov-Eigenschaft . . . . . . . . . . . . . . . . . . . 153

9.5 Gleichgewichtsverteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155

9.6 Konvergenz gegen die Gleichgewichtsverteilung . . . . . . . . . . . . . . . . . . . 160

9.7 Reversible Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162

10 Stochastische Prozesse 165

10.1 Konstruktion stochastischer Prozesse . . . . . . . . . . . . . . . . . . . . . . . . . 165

10.2 Stationare Prozesse und der Ergodensatz . . . . . . . . . . . . . . . . . . . . . . . 173

11 Irrfahrten und die Brownsche Bewegung 183

11.1 Die einfache Irrfahrt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183

11.2 Konstruktion der Brownschen Bewegung . . . . . . . . . . . . . . . . . . . . . . 188

Literatur 197

Index 199

Vorwort

Dies ist das Vorlesungsskript zu zwei vierstundigen einfuhrenden Vorlesungen uber Wahrschein-lichkeitstheorie, gehalten an der Universitat Leipzig 2005/06 und 2008/09 sowie an der Tech-nischen Universitat Berlin 2012/13. Es werden die grundlegenden Begriffe motiviert und ent-wickelt, wie Wahrscheinlichkeitsraume, Zufallsgroen, Erwartungswert und Varianz, bedingteWahrscheinlichkeiten und Erwartungswerte, Unabhangigkeit, Konvergenzbegriffe, stochastischeProzesse und vieles mehr. Ein Steilkurs stellt die benotigten matheoretischen Konzepte undHilfsmittel zusammen. Ferner werden viele der wichtigen Verteilungen und ihre Einsatzgebieteund Beziehungen unter einander vorgestellt. Auch fundamentale stochastische Prozesse wie dieeinfache Irrfahrt, der Poisson-Prozess, Markovketten, stationare Prozesse und die BrownscheBewegung werden eingefuhrt und untersucht.

In den ersten Kapiteln beschranken wir uns auf diskrete Wahrscheinlichkeitsraume und ler-nen die wichtigen diskreten Verteilungen kennen. Sodann behandeln wir Wahrscheinlichkeitenmit Dichten und wichtige Beispiele. Anschlieend bringen wir den Begriff des allgemeinen Wahr-scheinlichkeitsraums unter Verwendung von Matheorie. Dazu tragen wir zunachst die grundle-genden Begriffe und Konzepte der Matheorie zusammen, um dann die allgemeine Wahrschein-lichkeitstheorie zu prasentieren und auszubauen, womit ungefahr der Stoff der ersten der beidenVorlesungen endet.

In der zweiten Vorlesung behandeln wir Unabhangigkeit, bedingte Erwartungswerte, diver-se Konvergenzbegriffe und ihre Beziehungen untereinander (einschlielich des Zentralen Grenz-wertsatzes und des Satzes von Prohorov), Markovketten, allgemeine stochastische Prozesse indiskreter Zeit, stationare Prozesse und den Ergodensatz sowie die Konstruktion der BrownschenBewegung mit Hilfe des Satzes von Donsker.

Das vorliegende Skript wurde naturlich aus mehreren verschiedenen Quellen gespeist, dieman nicht mehr alle im Einzelnen zuruck verfolgen kann. Die Lehrbucher, die den meistenEinfluss auf die Gestaltung des ersten Teils dieses Skriptes hatten, sind die viel benutzten klas-sischen Texte [Kr02] von U. Krengel und [Ge02] von H.-O. Georgii, ferner das Lehrbuch [Kl06]von A. Klenke. Es sind auch Hinweise meiner Kollegen N. Gantert und A. Klenke eingeflossen,denen ich hiermit dafur danke. In der Uberarbeitung vom Wintersemester 2008/09 korrigierteich ein paar Fehler, verbesserte stellenweise die Prasentation und fugte manche Erlauterungenund Ubungsaufgaben hinzu. Im Marz 2012 trug ich etliche kleine Korrekturen ein, die mir dan-kenswerter Weise Albert Haase und Jonka Hahnel ubermittelten. Frau Leili Riazy steuerte net-terweise die Illustration zu Beispiel 5.2.6 bei. Weitere kleinere Korrekturen und Verbesserungenerfolgten im Juli 2012 und im Marz 2013 nach dem Abhalten der Vorlesung.

Berlin, im Marz 2013

1

Kapitel 1

Diskrete Wahrscheinlichkeitsraume

In diesem Abschnitt fuhren wir die grundlegenden Begriffe der diskreten Wahrscheinlichkeits-theorie ein, das heit der Theorie der Wahrscheinlichkeiten auf hochstens abzahlbar unendlichgroen Mengen. Wir geben eine Auswahl an Beispielen und sammeln Eigenschaften dieses Kon-zeptes.

1.1 Grundbegriffe

Wir beginnen mit einem einfuhrenden Beispiel.

Beispiel 1.1.1. Wir wurfeln mit zwei fairen1 Wurfeln. Wie gro ist die Wahrscheinlichkeit, dassdie Augensumme nicht kleiner als zehn ist?

Es bieten sich (mindestens) zwei Moglichkeiten der Problemlosung an. Wir konnen zumBeispiel ansetzen, dass jedes Element aus = {1, 2, . . . , 6}2 (das ist die Menge aller Zahlenpaaremit Koeffizienten zwischen 1 und 6) die selbe Wahrscheinlichkeit besitzt (also 1/36), wobei wirein solches Paar identifizieren als die Ergebnisse der beiden Wurfel. (Wir behandeln also diebeiden Wurfel als unterscheidbar, obwohl davon sicher die gesuchte Wahrscheinlichkeit nichtabhangen wird.) Dann zahlen wir die gunstigen Elementarereignisse, also diejenigen Paare, diedas gesuchte Ereignis realisieren. Wir kommen auf die sechs Paare (4, 6), (5, 5), (5, 6), (6, 4), (6, 5)und (6, 6). Also antworten wir, dass die gesuchte Wahrscheinlichkeit gleich 6/36 sei, also 1/6.

Eine zweite Moglichkeit ist, die Menge = {2, 3, 4, . . . , 12} von moglichen Augensummenzu betrachten. Allerdings mussen wir beachten, dass diese elf Elementarereignisse nicht gleichwahrscheinlich sind. Zum Beispiel hat die 2 die Wahrscheinlichkeit 1/36, und die 3 hat die Wahr-scheinlichkeit