1. Grundlagen der Wahrscheinlichkeitstheorie 1.1 ... · Lehrstuhl für Empirische...

Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007


1

1. Grundlagen der Wahrscheinlichkeitstheorie

1.1 Zufallsereignisse, Ereignisraum und Ereignismenge

• Zufallsexperiment: nach einer bestimmten Vorschrift ausgeführter, unter gleichen

Bedingungen beliebig oft wiederholbarer Vorgang mit mindestens 2 möglichen

(bekannten) Ergebnissen. Es ist nicht bekannt bzw. ungewiss, welches Ergebnis

eintreten wird, d.h. es kann nicht exakt vorausgesagt werden.

(Bsp.: Werfen eines Würfels oder einer Münze)

• Elementarereignisse = einzelne, nicht mehr zerlegbare und sich gegenseitig aus-

schließende Ergebnisse eines Zufallsexperiments.

(Z.B. Zahl der Augen beim Würfel)



2

• Ereignisraum: Die Menge Ω aller n Elementarereignisse nωωω ,...,, 21 eines Zu-

fallsexperiments stellt den Ereignisraum (Stichprobenraum) dieses Zu-

fallsexperiments dar: nωωω ,...,, 21=Ω

Voraussetzung: endlich viele oder höchstens abzählbar unendlich viele nω

⇔ stetiges Kontinuum

• Zusammengesetztes Ereignis:

Ein zufälliges Ereignis A ist eine Teilmenge von Ω . Das Ereignis A ist eingetreten,

wenn das Ergebnis des Zufallsexperiments ein Element der Teilmenge A ist.

• Ereignismenge: Alle Ereignisse eines Zufallsexperiments mit Ereignisraum Ω

bilden die dazugehörige Ereignismenge )(ΩE .



3

1. sicheres Ereignis: Ω⊂Ω

2. unmögliches Ereignis: Ω∅⊂

Tritt das Ereignis A immer ein, wird es mit Ω=A bezeichnet; tritt es niemals ein wird

es mit ∅=A bezeichnet.



4

1.2 Ereignisse und ihre Verknüpfungen

• Wenigstens eines der beiden Ereignisse A oder B (oder beide) treten ein: BA ∪

(Vereinigung).

• Gemeinsam auftretende Ereignisse: sowohl A als auch B müssen eintreten:

BA ∩ (Durchschnitt)



5

• Komplementärereignis: Das Komplementärereignis A tritt genau dann ein, wenn

A nicht eintritt (Negation): A\: Ω=A , d.h. A und A sind komplementär zuein-

ander

Es gilt: ∅=∩ AA und Ω=∪ AA

AA = , ∅=Ω und Ω=∅



6

• Differenz B\A : Das Ereignis A ohne das Ereignis B :

• Disjunkte Ereignisse: Falls A und B niemals gleichzeitig eintreten können,

∅=∩ BA , dann gelten die Ereignisse als disjunkt (unvereinbar), d.h. sie schließen

sich gegenseitig aus.



7

• Implikation: Das Ereignis A enthält das Ereignis B : AB⊂ ( B impliziert A )

Da das Ergebnis eines Zufallsexperiments ist nicht vorhersagbar, aber man kann mög-

lichen Ereignissen Wahrscheinlichkeiten (reelle Zahlen) zuordnen:

ℜ→EP : (reellwertige Funktion)

)(: APAP →



8

Regeln für Ereignisoperationen:

ABBA ∪=∪ bzw. ABBA ∩=∩ Kommutativgesetze

CBACBA ∪∪=∪∪ )()( bzw. CBACBA ∩∩=∩∩ )()( Assoziativgesetze

)()()( CABACBA ∪∩∪=∩∪

bzw. )()()( CABACBA ∩∪∩=∪∩ Distributivgesetze

BABA ∩=∪ bzw. BABA ∪=∩ De Morgansche Regeln



9

1.3 Wahrscheinlichkeitsbegriffe

• Definition der Wahrscheinlichkeit nach Laplace (klassische Wahrscheinlich-

keit): Die Wahrscheinlichkeit für das Eintreten des Ereignisses A ist die Anzahl der

(günstigen) Fälle in denen A eintritt im Verhältnis zu allen möglichen Fällen. (Ach-

tung: Setzt die Gleichwahrscheinlichkeit für das Eintreten aller möglichen Fälle

voraus.)

Ω==

ElementederAnzahl

AElementederAnzahl

AusgängemöglichenderAnzahl

AusgängegünstigenderAnzahlAP :)(

Rechtfertigung: Prinzip des unzureichenden Grundes



10

• Definition der Wahrscheinlichkeit nach von Mises (statistische Wahrscheinlich-

keit): Nach n-maligem Durchführen eines Zufallsexperiments konvergiert die

relative Häufigkeit ( )Af bei sehr großen n gegen die statistische Wahrscheinlich-

keit des Auftretens von A , )(AP :

( ) ( )AfAPn ∞→

= lim bzw. ( ) ( )( ) 0lim =>−∞→

εAPAfPn

Bsp.: Würfel wird 3000mal hintereinander geworfen. Es interessiert die Anzahl der

Sechser:



11

Anzahl der Würfe Absolute H. der

Augenzahl 6 Relative Häufigkeit

der Augenzahl 6

1 1 1,00000

2 1 0,50000

3 1 0,33333

4 1 0,25000

5 2 0,40000

10 2 0,20000

M M M

3000 560 0,16867

Konvergenz der relativen Häufigkeit wird als Gesetz der großen Zahlen bezeichnet.

( )Af wird dann als Näherungswert oder Schätzwert P für die gesuchte

Wahrscheinlichkeit )(AP verwendet



12

• Subjektiver Wahrscheinlichkeitsbegriff

Risikosituation A: Man erhält 1000 EUR mit Wahrscheinlichkeit p .

Man erhält 0 EUR mit Wahrscheinlichkeit p−1 .

Risikosituation B: Man erhält 1000 EUR, wenn DAX innerhalb nächsten

drei Monate um 100 Punkte steigt.

Wenn nicht, geht man leer aus.

• Axiomatischer Wahrscheinlichkeitsbegriff nach Kolmogorov

Axiom 1 (Nichtnegativität): ( ) 0≥AP für jedes EA∈ . P(A) ist eine nichtnegative

reelle Zahl.

Axiom 2 (Normierung): Das sichere Ereignis hat die Wahrscheinlichkeit 1: ( ) 1=ΩP



13

Axiom 3 (Additivität): ( ) ( ) ( )BPAPBAP +=∪ , falls ∅=∩ BA (Additionsregel für

disjunkte Ereignisse).

Für die Ereignismenge E muss gelten:

(1) E∈Ω (sicheres Ereignis gehört zur Ereignismenge)

(2) EA ∈ , wenn EA∈ (jedes Ereignis besitzt komplementäres Ereignis)

(3) EAj

j ∈∞

=

U1

(Abgeschlossenheit der Menge E )

Axiom 3’: KK +++=∪∪∪ )()()()( 321321 APAPAPAAAP

Kolmogorovscher Wahrscheinlichkeitsraum: )](,,[ ⋅Ω PE



14

1.4 Wichtige Regeln der Wahrscheinlichkeitsrechnung

Theorem 1: Die Wahrscheinlichkeit des zu A komplementären Ereignisses ist:

( )APAP −= 1)( für jedes EA∈

Beweis: Ereignisse A und A sind disjunkt, folglich gilt (Axiom 3 und 2):

( ) ( ) ( ) ( ) 1=Ω=+=∪ PAPAPAAP ⇒ ( ) ( )APAP −= 1

Theorem 2: Die Wahrscheinlichkeit des unmöglichen Ereignisses beträgt:

0)( =∅P

Beweis: ∅ und Ω sind komplementäre Ereignisse. Nach Axiom 2 ist ( ) 1=ΩP und

nach Theorem 1 folgt 011)( =−=∅P .



15

Theorem 3: Sind die Ereignisse EAAA n ∈,,, 21 K paarweise disjunkt, dann ist die

Wahrscheinlichkeit für das Ereignis, das aus der Vereinigung all dieser

Ereignisse entsteht, die Summe der Einzelwahrscheinlichkeiten:

( )∑==

=

=∪∪∪

n

i

i

n

i

i APAPAAAP11

321 )( UK bei n disjunkte Ereignissen:

Beweis: vollständige Induktion nach Axiom 3 bzw. Axiom 3’.

Theorem 4: Für eine Differenzmenge B\A gilt stets: )()(( BAPAPB)\AP ∩−=

Beweis: Ereignis A setzt sich aus B\A und BA∩ zusammen, so dass aus Axiom 3

folgt: ( ) ( )BAPB)\APAP ∩+= (



16

Theorem 5: Additionsgesetz für beliebige (auch für nicht disjunkte) Ereignisse:

)()()()( BAPBPAPBAP ∩−+=∪

Beweis: Das Ereignis BA∪ setzt sich aus den drei disjunkten (gegenseitig aus-

schließenden) Ereignissen B\A , BA∩ und A\B zusammen und nach

Theorem 4 gilt:

)(( BAP-P(A)B)\AP ∩= und )(( BAP-P(B)A)\BP ∩=

Dann folgt nach Theorem 3:

A)\P(BBAPB)\P(AB)AP +∩+=∪ )((

)()()()( BAP-P(B)BAPBAPAP ∩+∩+∩−=

)()()()( BAP-P(B)BAPBAPAP ∩+∩+∩−=

)()( BAP-P(B)AP ∩+=



17

Additionsgesetz für (zwei) disjunkte Ereignisse:

P(B)APBAP +=∪ )()( , da ∅=∩ BA bzw. 0)( =∩ BAP

Theorem 6: Monotonieeigenschaft des Wahrscheinlichkeitsmaßes

Impliziert Ereignis A das Ereignis B ( BA ⊂ ) dann folgt grundsätzlich:

)()( BPAP ≤

Beweis: Ereignis B setzt sich aus den beiden disjunkten Ereignissen A und A\B

zusammen und nach Axiom 3 gilt: ( )BPA)\BPAP =+ ()( . Da A)\BP(

nach Axiom 1 nicht negativ sein kann, gilt:

)()( BPAP ≤ .



18

1.5 Bedingte Wahrscheinlichkeit und stochastische Unabhängigkeit

Bedingte Wahrscheinlichkeit: Die bedingte Wahrscheinlichkeit )( BAP ist die Wahr-

scheinlichkeit für das Eintreten des Ereignisses A unter der Voraussetzung, das B

bereits eingetreten ist.

)(

)()(

BP

BAPBAP

∩= , für 0)( >BP

= bedingte Wahrscheinlichkeit von A unter der Bedingung von B



19

A B

A∩∩∩∩B

Die bedingte Wahrscheinlichkeit )( BP ⋅ ist selbst ein Wahrscheinlichkeitmaß und

gehorcht ebenfalls den Kolmogorovschen Axiomen, denn es gilt:

(1) 0)( ≥BAP für beliebige Ereignisse EA∈

(2) 1)( =Ω BP für das sichere Ereignis Ω

(3) )()()( 2121 BAPBAPBAAP +=∪ , falls ∅=∩ 21 AA



20

)(

))()((

)(

))(()( 2121

21BP

BABAP

BP

BAAPBAAP

∩∪∩=

∩∪=∪

)()()(

)(

)(

)(21

21 BAPBAPBP

BAP

BP

BAP+=

∩+

∩=

Theorem 7: Multiplikationssatz der Wahrscheinlichkeitsrechnung (für beliebige Ereig-

nisse)

durch Umformen der Definition der bedingten Wahrscheinlichkeit:

( ) ( ) ( )ABPAPBAP ⋅=∩ , wenn ( ) 0>AP bzw.

( ) ( ) ( )BAPBPBAP ⋅=∩ , wenn ( ) 0>BP



21

Multiplikationssatz für drei Ereignisse:

( ) ( ) ( ) )(CPCBPCBAPCBAP ⋅⋅∩=∩∩ , wenn ( ) 0>∩ CBP

Aus ( ) 0>∩ CBP folgt ( ) 0)( >∩≥ CBPCP ist. Daher gilt:

( ) ( ) ( ) )())(( CPCBPCBAPCBAPCBAP ⋅⋅∩=∩∩=∩∩

Stochastische Unabhängigkeit: Zwei Ereignisse A und B heißen stochastisch

unabhängig, wenn

( ) ( ) ( )BPABPABP == bzw. ( ) ( ) ( )APBAPBAP ==

Theorem 8: Multiplikationssatz für stochastisch unabhängige Ereignisse:

( ) ( ) ( )BPAPBAP ⋅=∩



22

1.6 Totale Wahrscheinlichkeit und das Bayes Theorem

Theorem 9: Satz der totalen Wahrscheinlichkeit

Besteht ein Ereignisraum Ω aus n disjunkten Ereignissen nAAA ,...,, 21

(d.h. ∅=∩ ji AA für ji ≠ und Un

i

iA1=

Ω= bzw. vollständige Zerlegung

der Ereignismenge), und ist das Ereignis B ein Teil von Ω , Ω⊂B , dann

sind 1AB ∩ , 2AB ∩ , …, nAB ∩ disjunkte Ereignisse und es gilt:

( ) ( ) ( ) ( )n

n

i

i ABPABPABPABPBP ∩++∩+∩=

∩=

=

...)( 211U

( )∑=

∩=n

i

iABP1



23

Da ( ) ( ) ( )iii APABPABP ⋅=∩ ist, kann ( )BP auch als: ( ) ( )∑=

⋅=n

i

ii APABPBP1

)(

geschrieben werden.



24

Theorem von Bayes: Aus der Verknüpfung von bedingter und totalen Wahr-

scheinlichkeit folgt die Formel von Bayes:

( ) ( )( ) )(

)()(

BP

APABP

BP

BAPBAP

iii

i

⋅=

∩=

Ersetzt man ( )BP im Nenner durch den Ausdruck der totalen Wahrscheinlichkeit, dann

erhält man:

( )( ) ( )

( ) ( )∑=

⋅

⋅=

n

j

jj

ii

i

ABPAP

ABPAPBAP

1



25

Interpretation der Formel von Bayes:

nAAA ,...,, 21 sind sich ausschließende mögliche Zustände der Welt (alternative

Hypothesen), von denen genau eine zutrifft. B ist das Ergebnis einer Beobachtung.

Für jede der n Hypothesen iA ist die Wahrscheinlichkeit bekannt, dass B eintritt, wenn

iA gilt. )( iAP ist die A-priori-Wahrscheinlichkeit von iA bzw. die Wahrscheinlich-

keit, dass die i-te Hypothese zutrifft. Die bedingte Wahrscheinlichkeit ( )iABP ist die

Wahrscheinlichkeit von B , wenn die Hypothese iA zutrifft.

( )BAP i ist die A-posteriori-Wahrscheinlichkeit von iA bzw. die (nach der Beobachtung

von B ) ermittelte Wahrscheinlichkeit, dass die i-te Hypothese zutrifft, unter der

Bedingung, dass das Ergebnis B beobachtet worden ist.

1. Grundlagen der Wahrscheinlichkeitstheorie 1.1 ... · Lehrstuhl für Empirische...

Documents

Transcript of 1. Grundlagen der Wahrscheinlichkeitstheorie 1.1 ... · Lehrstuhl für Empirische...