Post on 15-Jun-2020
1
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 1
Prof. Dr.-Ing. Andreas Czylwik
Grundlagen der Nachrichtentechnik 2
Communications 2
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 2
Nachrichtentechnik 2Organisatorisches
Vorlesung 2 SWSÜbung 2 SWS Betreuer: Dipl.-Ing. Thorsten KempkaFolienkopien sind verfügbarPrüfung: schriftlich
Neue Forschungsthemen im Fachgebiet Nachrichtentechnische SystemeStudien- und Diplomarbeiten
2
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 3
Nachrichtentechnik 2Literatur
Literatur zur Vorlesung:A. Papoulis: Probability, random variables, and stochastic processes, McGraw-HillE. Hänsler: Statistische Signale, Springer-Verlag
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 4
Nachrichtentechnik 2Inhalt
1 Einführung2 Wahrscheinlichkeit3 Zufallsvariablen4 Funktionen einer Zufallsvariablen5 Zwei Zufallsvariablen, Folgen von Zufallsvariablen6 Zufallsprozesse7 Transformation von Zufallsprozessen durch Systeme8 Schätz- und Detektionstheorie
3
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 5
Nachrichtentechnik 21 Einführung
Deterministische ⇔ statistische Ansätze
Anwendung statistischer AnsätzeModellierung von RauschenModellierung von NachrichtensignalenOptimierung von Sende- und EmpfangsverfahrenDetektions- und EntscheidungsverfahrenSchätzung gestörter ParameterBeobachtung von Börsenkursen
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 6
Nachrichtentechnik 21 Einführung
Beispiele zufälliger Größenthermisches RauschenSchrotrauschenRauschen von VerstärkernAudio- und VideosignaleDatensignaleFunkkanalEintreffen von Anrufen in einer VermittlungsstelleEinfahrt von Fahrzeugen auf eine Autobahn
4
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 7
Nachrichtentechnik 22 Wahrscheinlichkeit
Ereignisse können als Mengen aufgefasst werden.Rechenregeln der Mengenlehre
Vereinigung: A ∪ BAssoziativgesetz: (A ∪ B) ∪ C = A ∪ (B ∪ C) = A ∪ B ∪ CKommutativgesetz: A ∪ B = B ∪ Aleere Menge, Teilmenge: A ∪ ∅ = A , A ∪ B = A wenn B ⊂ A
Schnitt: A ∩ BAssoziativgesetz: (A ∩ B) ∩ C = A ∩ (B ∩ C) = A ∩ B ∩ CKommutativgesetz: A ∩ B = B ∩ Adisjunkte Mengen A, B : A ∩ B = ∅leere Menge, Teilmenge: A ∩ ∅ = ∅ , A ∩ B = B wenn B ⊂ A
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 8
Nachrichtentechnik 22 Wahrscheinlichkeit
Distributivgesetz: A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C) Gleichheit: A = B, wenn A ⊂ B und B ⊂ AKomplement:
de Morgansches Gesetz:
BABABAAB
AAHAAAAHH
=⇒=⊂⇒⊂
∅=∩=∪=∅==∅ ,,,,
BABABABA
∪=∩∩=∪
5
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 9
Nachrichtentechnik 22 Wahrscheinlichkeit
GrundbegriffeDefinition 2.1: Wahrscheinlichkeitsraum
Wahrscheinlichkeitsraum = (H, A, P)H = Ergebnismenge = Menge aller ElementarereignisseA = Ereignisfeld = Menge von Ereignissen (Teilmengen von H)P = Wahrscheinlichkeitsmaß
Definition 2.2: Ergebnismenge H = η1, η2, η3, ...Ergebnismenge H = Menge aller möglichen Ergebnisse η eines ZufallsexperimentsNach einem Zufallsexperiment gibt es genau ein Ergebnis = Elementarereignis
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 10
Nachrichtentechnik 22 Wahrscheinlichkeit
Ergebnisse (Elementarereignisse) sind disjunkt; d.h. sie können nicht gleichzeitig auftreten.Formelzeichen in der Literatur: häufig Ω statt H und ω statt ηBeispiel 2.1: Würfeln
Elementarereignisse ηi sind die Seiten i = 1 ... 6 des Würfels: H = η1, η2, η3, η4, η5, η6
Beispiel 2.2: Werfen einer Roulette-KugelElementarereignisse ηi sind die Zahlen i = 0 ... 36:H = η0, η1, ..., η36
6
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 11
Nachrichtentechnik 22 Wahrscheinlichkeit
Definition 2.3: Ereignisfeld AEreignisfeld = Menge von beliebig ausgewählten Teilmengen der Ergebnismenge H mit den Eigenschaften:
Ein Zufallsexperiment hat genau ein Ergebnis, kann aber mehrere Ereignisse zur Folge haben.Zwei Ereignisse, die kein Elementarereignis gemeinsam haben, sind disjunkt (unvereinbar).Maximal mögliche Anzahl von Ereignissen im Ereignisfeld bei N Elementarereignissen (Potenzmenge): Nmax = 2N
.AAAA
A
∈∈∈∈
∈
UK iAAA,AA
,H
folgt ,, ausfolgt aus
21
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 12
Nachrichtentechnik 22 Wahrscheinlichkeit
Beispiel 2.1 Fortsetzung: Würfeln, H = η1, η2, η3, η4, η5, η6mögliche Ereignisfelder: A1 = ∅ , η1, η3, η5, η2, η4, η6, H A2 = ∅ , η1, η2, η1, η2, η2, η3, η4, η5, η6,
η1, η3, η4, η5, η6 η3, η4, η5, η6, H Beispiel 2.3: A = Potenzmenge (alle möglichen Teilmengen) von H = η1, η2, η3
unmögliches Ereignis: ∅einelementige Ereignisse: η1, η2, η3zweielementige Ereignisse: η1, η2, η2, η3, η1, η3 sicheres Ereignis: H = η1, η2, η3Gesamtzahl von Ereignissen:
∑=
==N
k
NkN
N0
max 2 (2.1)
7
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 13
Nachrichtentechnik 22 Wahrscheinlichkeit
Definition 2.4: Wahrscheinlichkeit P, axiomatische Definition nachKolmogoroff
Axiome:1. P(A) ≥ 02. P(H) = 13. P(A ∪ B) = P(A) + P(B), wenn A und B disjunkt sind
Die Wahrscheinlichkeit ist eine 1. nichtnegative, 2. normierte und 3. additive Funktion über dem Ereignisfeld.
Eigenschaften:Wertebereich: 0 ≤ P ≤ 1 unmögliches Ereignis: P(∅ ) = 0 (2.3)
(2.2)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 14
Nachrichtentechnik 22 Wahrscheinlichkeit
nicht disjunkte Ereignisse A und B:
Definition 2.5: VerbundwahrscheinlichkeitP(A ∩ B) = Verbundwahrscheinlichkeit = Wahrscheinlichkeit, dass beide Ereignisse A und B gleichzeitig auftreten
A BH
)()()()(
)()()()()()(
)()()(
BAPBPAPBAP
BAPBAPBPBAPAPBAP
BABABBAABA
∩−+=∪⇒
∩+∩=∩+=∪
⇒∩∪∩=
∩∪=∪
(2.4)
8
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 15
Nachrichtentechnik 22 Wahrscheinlichkeit
Klassischer Definitionsversuch der WahrscheinlichkeitErgebnismenge H mit N gleichwahrscheinlichen ErgebnissenEreignis A, das NA Ergebnisse enthält:
konzeptionelles Problem: gleichwahrscheinlich ist nicht definiert
Definition 2.6: Relative Häufigkeitn-maliges Ausführen des ZufallsexperimentsEreignis A tritt nA mal auf
(2.5)Ergebnissemöglichen aller AnzahlErgebnissegünstiger Anzahl)( ==
NNAP A
entellsexperimaller Zufa AnzahlEreignisseder Anzahl)(~ A
nnAP A ==
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 16
Nachrichtentechnik 22 Wahrscheinlichkeit
Relative Häufigkeit ist Schätzwert für die WahrscheinlichkeitDefinitionsversuch der Wahrscheinlichkeit als Grenzwert der relativen Häufigkeit:
Beweis für die Konvergenz ist nicht möglich
Definition 2.7: Bedingte Wahrscheinlichkeit P(A | B) P(A | B) = bedingte Wahrscheinlichkeit = Wahrscheinlichkeit des Ereignisses A unter der Bedingung, dass das Ereignis Baufgetreten ist (P(B) > 0)
(2.6)entellsexperimaller Zufa Anzahl
Ereignisseder Anzahl)(~lim)( An
nAPAP An
===∞→
)()()|(
BPBAPBAP ∩=
9
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 17
Nachrichtentechnik 22 Wahrscheinlichkeit
Eigenschaften der bedingten Wahrscheinlichkeit:P(A | B) ≥ 0 P(H | B) = 1 P(A1 ∪ A2 | B) = P(A1|B) + P(A2|B), wenn A1 und A2 disjunktsind
ausgewählte Mengensituationen:A ∩ B = ∅
(2.7)
(2.8)
(2.9)
0)(
)()|( =∩=BP
BAPBAPA B
H
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 18
Nachrichtentechnik 22 Wahrscheinlichkeit
A ⊂ B ⇒ A ∩ B = A
B ⊂ A ⇒ A ∩ B = B
)()()(
)()()|( AP
BPAP
BPBAPBAP ≥=∩=
1)()(
)()()|( ==∩=
BPBP
BPBAPBAP B
A
H
AB
H
10
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 19
Nachrichtentechnik 22 Wahrscheinlichkeit
Beispiel 2.4: Würfeln, H = η1, η2, η3, η4, η5, η6Ereignisse: A = Ergebnis ist geradeB = Ergebnis ist ungeradeC = Ergebnis ist Primzahl
32
)()()|(
31
)()()|(
)()(
3)()()(
)(
31
61
21
61
61
=∩==∩=
=∩=∩
=⋅===
=
BPCBPBCP
APCAPACP
CBPCAP
CPBPAP
P iη
A
Bη3η1 η5
η2 η4 η6
C
H
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 20
Nachrichtentechnik 22 Wahrscheinlichkeit
Beispiel 2.5: Ziehen von zwei Kugeln aus einer Kiste mit drei weißen Kugeln w1, w2, w3 und zwei roten Kugeln r1, r2
gesucht: Wahrscheinlichkeit, dass zuerst eine weiße und als zweites eine rote Kugel gezogen wird (Ereignis A)Ergebnismenge = Menge aller geordneten Paare:H = w1w2, w1w3, w1r1, w1r2, w2w1, w2w3, w2r1, ...die Elementarereignisse sind gleichwahrscheinlichAbzählen liefert:
w1w2 w2w1 w3w1 r1w1 r2w1w1w3 w2w3 w3w2 r1w2 r2w2w1r1 w2r1 w3r1 r1w3 r2w3w1r2 w2r2 w3r2 r1r2 r2r1A
H
103
206)( ===
NNAP A
11
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 21
Nachrichtentechnik 22 Wahrscheinlichkeit
Lösungsansatz mit bedingten Wahrscheinlichkeiten:Wahrscheinlichkeit, dass zuerst eine weiße Kugel gezogen wird (Ereignis W1):
Wahrscheinlichkeit, dass die als zweites gezogene Kugel rot ist (Ereignis R2) − unter der Bedingung, dass die zuerst gezogene Kugel weiß ist:
Wahrscheinlichkeit, dass die erste Kugel weiß und die zweite rot ist (Ereignis W1 ∩ R2):
53)( 1 =WP
21
42)|( 12 ==WRP
103
53
21)()|()( 11221 =⋅=⋅=∩ WPWRPRWP
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 22
Nachrichtentechnik 22 Wahrscheinlichkeit
Bedingte Wahrscheinlichkeiten:
Bayes-Theorem ( für P(A) > 0 bzw. P(B) > 0)
(2.10)
)()|()()|()()(
)()|(
)()()|(
APABPBPBAPBAPAP
BAPABP
BPBAPBAP
⋅=⋅=∩⇒
∩=
∩=
(2.11)
(2.12)
)()()|()|(
bzw. )(
)()|()|(
BPAPABPBAP
APBPBAPABP
⋅=
⋅= (2.13)
(2.14)
12
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 23
Nachrichtentechnik 22 Wahrscheinlichkeit
Definition 2.8: Statistische Unabhängigkeit Zwei Ereignisse A, B heißen statistisch unabhängig, wenn gilt:
P(A ∩ B) = P(A) ⋅ P(B).
Folgerung für statistisch unabhängige EreignisseP(A | B) = P(A), P(B | A) = P(B) (2.16)
(2.15)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 24
Nachrichtentechnik 22 Wahrscheinlichkeit
Beispiel 2.6: Zweimaliges Ziehen einer von drei Kugeln (1 − 2 − 3) Die Kugel wird nach dem ersten Ziehen zurückgelegt.
Ereignis A = erste Zahl = 1Ereignis B = zweite Zahl = 3jedes Elementarereignis ist gleichwahrscheinlich:P(11) = P(12) = P(13) = ... = 1/9P(A) = 3 ⋅ 1/9 = 1/3P(B) = 3 ⋅ 1/9 = 1/3P(A ∩ B) = P(13) = 1/9 = P(A) ⋅ P(B)⇒ Die Ereignisse A und B sind statistisch unabhängig.
11 12 13
21 22 23
31 32 33
A
B
H
13
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 25
Beispiel 2.7: Zweimaliges Ziehen einer von drei Kugeln (1 − 2 − 3) Die Kugel wird nach dem ersten Ziehen nicht zurückgelegt.
Ereignis A = erste Zahl = 1Ereignis B = zweite Zahl = 3jedes Elementarereignis ist gleichwahrscheinlich:P(12) = P(13) = P(21) = ... = 1/6P(A) = 2 ⋅ 1/6 = 1/3P(B) = 2 ⋅ 1/6 = 1/3P(A ∩ B) = P(13) = 1/6 ≠ P(A) ⋅ P(B)⇒ Die Ereignisse A und B sind statistisch abhängig.
Nachrichtentechnik 22 Wahrscheinlichkeit
12 13
21 23
31 32
A
B
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 26
Nachrichtentechnik 22 Wahrscheinlichkeit
Definition 2.9: Statistische Unabhängigkeit Drei Ereignisse A, B, C heißen statistisch unabhängig, wenn gilt:
Alle Paare von Ereignissen sind statistisch unabhängigP(A ∩ B) = P(A) ⋅ P(B),P(A ∩ C) = P(A) ⋅ P(C),P(B ∩ C) = P(B) ⋅ P(C)
und P(A ∩ B ∩ C) = P(A) ⋅ P(B) ⋅ P(C).
(2.18)(2.17)
(2.19)(2.20)
14
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 27
Nachrichtentechnik 22 Wahrscheinlichkeit
Definition 2.10: Statistische Unabhängigkeit, Verallgemeinerungn Ereignisse A1, A2, ..., An heißen statistisch unabhängig, wenn für alle Gruppen von k Ereignissen statistische Unabhängigkeit vorliegt (k < n) und :
P(A1 ∩ A2 ∩ ... ∩ An) = P(A1) ⋅ P(A2) ⋅ ... ⋅ P(An). (2.21)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 28
Nachrichtentechnik 22 Wahrscheinlichkeit
Beispiel 2.8: Statistische Unabhängigkeitgegeben: 3 Ereignisse A, B, C mit P(A) = P(B) = P(C) = pund 0 < p < 1.Für die Schnittmengen gilt: A ∩ B = A ∩ C = B ∩ C =A ∩ B ∩ C .
Frage: Gibt es einen Wert p, für den die Ereignisse unabhängig voneinander sind?Antwort: Nein, da
P(A ∩ B) = P(A ∩ C) = P(B ∩ C) = p2 = P(A ∩ B ∩ C ) = p3
gelten müsste.
A
B C
15
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 29
Nachrichtentechnik 22 Wahrscheinlichkeit
Satz von der totalen Wahrscheinlichkeitgegeben: n disjunkte Ereignisse A1, A2, ..., An
d.h. Ai ∩ Aj = ∅ für i ≠ jein Ereignis B ⊂ A1 ∪ A2 ∪ ... ∪ An = H
∑=
⋅=n
iii APABPBP
1)()|()( (2.22)
A1 A2A3 A4 A5 A6
A7
A8A9A10
B
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 30
Nachrichtentechnik 22 Wahrscheinlichkeit
Beweis des Satzes von der totalen Wahrscheinlichkeitmit Def. 2.7:
Ai sind disjunkt, daher sind auch B ∩ Ai disjunkt, 3. Axiom der Wahrscheinlichkeit direkt anwendbar:
Distributivgesetz:
qed.Anschauliche Deutung: P(B) ist Summe aller Wahrscheinlich-keiten der Schnittmengen von B mit den Ereignissen Ai
∑∑==
∩=⋅=n
ii
n
iii ABPAPABPBP
11)()()|()(
)](...)()[()( 21 nABABABPBP ∩∪∪∩∪∩=
)()()]...([)( 21
BPHBPAAABPBP n
=∩=∪∪∪∩=
16
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 31
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.1: Reelle Zufallsvariable x(η)Gegeben sei ein Wahrscheinlichkeitsraum (H, A, P).Eine Zufallsvariable x(η) ist eine eindeutige Abbildung der Ergebnismenge H eines Zufallsexperiments auf die Menge der reellen Zahlen R.Eigenschaften der Abbildung:
1. η | x(η) ≤ x ∈ A für jedes x ∈ R2. P(η | x(η) = −∞) = P(η | x(η) = +∞) = 0
x(η = ηi) = xi heißt Realisierung der Zufallsvariablen.
mögliche Abbildungen: ηi → x(ηi)Α i → x(Α i)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 32
Nachrichtentechnik 23 Zufallsvariablen
Beispiel der Definition einer Zufallsvariablen x(η)
Zufallsexperiment
x(η1) x(η2) x(η3) x(η4) x(η5) x(η6) x(η7) x∈ R
η1
η3
η2 η5
η6
η7
η4
17
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 33
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.2: Wahrscheinlichkeitsverteilungsfunktion Fx(x)kurz: Wahrscheinlichkeitsverteilung, Verteilung
Fx(x) = P(η | x(η) ≤ x)
Eigenschaften: 1. Fx(−∞) = 0,2. Fx(+∞) = 1,3. Fx(x) wächst monoton mit x,4. 0 ≤ Fx(x) ≤ 1.
(3.1)
(3.2)(3.3)
(3.4)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 34
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.1: diskrete Zufallsvariable
−1 0 1 2 3 4 5
1
0,8
0,6
0,4
0,2
x
Fx(x)
i 1 2 3 4 5 6 7x(ηi) –0,4 0,2 1,1 2 2,7 3,5 5P(ηi) 0,04 0,1 0,1 0,22 0,32 0,14 0,08
18
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 35
Wahrscheinlichkeitsverteilungsfunktion für wertdiskrete Zufallsvariablen:
mit x(ηi) = xi , P(ηi) = pi , N = Anzahl der Elementarereignisseund der Sprungfunktion s(x):
Nachrichtentechnik 23 Zufallsvariablen
∑∑
∑
==
≤
−⋅=−⋅=
=≤=
N
iii
N
iii
xii
xxpxPxF
PxPxFi
11
)(|
))(s))((s)()(
)())(()(
ηη
ηηη
x
x
x
xx (3.5)
≥
=sonst0
0für1)(s
xx
s(x)1
x(3.7)
(3.6)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 36
wertkontinuierliche Zufallsvariablen: Ergebnismenge H hat unendlich viele Elementarereignisse ηi
Wahrscheinlichkeitsverteilungsfunktion für wertkontinuierliche Zufallsvariablen:
Beispiel 3.2: gleichverteilte wertkontinuierliche ZufallsvariableWertebereich: x1 ... x2
Nachrichtentechnik 23 Zufallsvariablen
∫≤
=≤=xPxPxF
)(|d)())(()(
ηηηηη
xx x (3.8)
(3.9)
Fx(x)1
xx1 x2
≥
<≤−−
<
=
2
2112
11
für1
für
für0
)(
xx
xxxxxxx
xx
xFx
19
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 37
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.2: Wahrscheinlichkeitsdichtefunktion fx(x)kurz: Wahrscheinlichkeitsdichte
Zusammenhang mit der Wahrscheinlichkeitsverteilung:
Eigenschaften: 1. fx(−∞) = fx(+∞) = 0,2. fx(x) ≥ 0,3.
(3.10)
(3.11)
(3.12)
xxFxf
d)(d)( x
x =
∫∞−
=x
uufxF d)()( xx
1d)( =∫∞∞− xxfx
(3.13)
(3.14)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 38
Wahrscheinlichkeitsdichtefunktion für wertdiskrete Zufallsvariablen:
Zuhilfenahme verallgemeinerter Funktionen notwendigDirac'sche Delta-Funktion δ(x):
mit
Nachrichtentechnik 23 Zufallsvariablen
∑∑==
−⋅=−⋅==N
iii
N
iii xxpxxp
xxxFxf
11)(δ)(s
dd
d)(d)( x
x (3.15)
=∞
=sonst0
0für)(δ
xx
1d)(δ =∫∞
∞−xx
(3.16)
(3.17)
δ(x)1
x
20
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 39
Realisierungsmöglichkeiten der δ-Funktion:
Glockenkurve:
Nachrichtentechnik 23 Zufallsvariablen
(3.19)
(3.18)
[ ])(s)(s1lim
)(lim)(δ
220
0
xxx
xx
xxx
xRx
∆∆→∆
∆→∆
−−+⋅∆
=
= R∆x(x)
x2x∆
2x∆−
x∆1
G∆x(x)
x
x∆π1
−∆x ∆x
220
0
π1lim
)(lim)(δ
xxx
xGx
x
xx
∆+∆⋅=
=
→∆
∆→∆
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 40
Ausblendeigenschaft
f(x) ⋅ δ(x−x0) = f(x0) ⋅ δ(x−x0)
Zusammenhang zwischen Sprungfunktion und δ-Funktion:
Nachrichtentechnik 23 Zufallsvariablen
(3.22)
(3.20) f(x0)
xx0
xxx
d)(ds)(δ =
∫∞−
=x
uux d)(δ)(s (3.23)
∫∞
∞−=−⋅ )(d)(δ)( 00 xfxxxxf (3.21)
21
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 41
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.1 Fortsetzung: Wahrscheinlichkeitsdichte einer wertdiskreten Zufallsvariablen:
−1 0 1 2 3 4 5
0,3
0,2
0,1
x
fx(x)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 42
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.2 Fortsetzung: Wahrscheinlichkeitsdichte einer gleichverteilten wertkontinuierlichen Zufallsvariablen
Wertebereich: x1 ... x2
≤≤
−= sonst 0
für1)( 21
12xxx
xxxfx
fx(x)
xx1 x2
121
xx −
(3.24)
22
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 43
Nachrichtentechnik 23 Zufallsvariablen
Wahrscheinlichkeit, dass eine Zufallsvariable in einem bestimmten Wertebereich liegt:
)()(d)()( 12212
1
xFxFxxfxxPx
xxxxx −==≤≤ ∫
fx(x)
xx1 x2 x
Fx(x)
x1 x2
Fx(x2)1
Fx(x1)
(3.25)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 44
Nachrichtentechnik 23 Zufallsvariablen
Näherung für kleine Differenzen: x1 = x , x2 = x + ∆x :
relative Häufigkeit als Schätzwert für die Wahrscheinlichkeits-dichte einer Zufallsvariablen x :
Anzahl der Zufallsexperimente: nAnzahl der Realisierungen, die in das Intervall x ... x + ∆xfallen: ∆nx
xxfxxxP ∆⋅≅∆+≤≤ )()( xx (3.26)
nnxxf x∆≅∆⋅)(x (3.27)
23
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 45
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.3: Erwartungswert Ex(η)statistischer Mittelwert über eine Schar von Realisierungen = Scharmittelwert = Ensemblemittelwert (engl. expectation)
alternative Bezeichnungen: Ex(η) = Ex = E(x(η)) = ⟨x(η)⟩
wertdiskrete Zufallsvariablen x :
(3.28)
(3.29)
(3.30)
xxfx d)()(E xx ∫∞
∞−⋅=η
∑∑∫∫==
∞
∞−
∞
∞−⋅=−⋅⋅=⋅=
N
iii
N
iii pxxxxpxxxfx
11d)(δd)()(E xx η
∑=
−⋅=N
iii xxpxf
1)(δ)(x
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 46
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.1 Fortsetzung: Erwartungswert einer wertdiskreten Zufallsvariablen:
Beispiel 3.2 Fortsetzung: Erwartungswert einer gleichverteilten wertkontinuierlichen Zufallsvariablen:
(3.31)
308,208,0514,05,332,07,222,021,01,11,02,004,04,0
)(E1
=⋅+⋅+⋅+⋅+⋅+⋅+⋅−=
⋅=∑=
N
iii pxηx
2
221d1d)()(E
21
21
22
1212
2
1
xx
xxxx
xxx
xxxfxx
x
+=
−
−=
−⋅=⋅= ∫∫
∞
∞−xx η
24
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 47
Nachrichtentechnik 23 Zufallsvariablen
Linearität des Erwartungswerts:
Ea x(η) + b y(η) = a Ex(η) + b Ey(η)
Die Reihenfolge linearer Operationen (Erwartungswertbildung, Summation, Integration) ist vertauschbarErwartungswert von Funktionen von Zufallsvariablen:
Die Reihenfolge nichtlinearer Operationen und der Erwartungs-wertbildung ist im Allgemeinen nicht vertauschbar:
Eg(x(η)) ≠ g(Ex(η))
xxfxgg d)()())((E xx ∫∞
∞−⋅=η
(3.32)
(3.33)
(3.34)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 48
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.4: n-tes Moment mx(n)
n = 1 ⇒ linearer Mittelwert : mx(1) = Ex(η)
n = 2 ⇒ quadratischer Mittelwert : mx(2) = Ex2(η)
Definition 3.5: n-tes zentrales Moment µx(n)
xxfxm nnn d)()(E)(xx x ∫
∞
∞−⋅== η (3.35)
(3.36)
))((E )1()( nn mxx x −= ηµ
(3.37)
(3.38)
25
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 49
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.6: Varianz σx2
σx heißt Standardabweichung
Die Varianz bzw. die Standardabweichung sind ein Maß für die Streuung einer Zufallsvariablen um den Mittelwert
(3.39)))((E 2)1()2(2xm−== ηµσ xxx
(3.40)2)1()2(
2)1()1(2
2)1()1(2
2)1(2
)(
)()(E2)(E
)()(2)(E
))((E
xx
xx
xx
xx
xx
xx
x
mm
mm
mm
m
−=
+−=
+−=
−=
ηη
ηη
ησ
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 50
Nachrichtentechnik 23 Zufallsvariablen
wertdiskrete Zufallsvariablen x :
Beispiel 3.1 Fortsetzung: Quadratischer Mittelwert einer wertdiskreten Zufallsvariablen:
0592,708,0514,05,3
32,07,222,021,01,11,02,004,0)4,0(
)(E
22
222221
22)2(
=⋅+⋅+
⋅+⋅+⋅+⋅+⋅−=
⋅== ∑=
N
iiix pxm ηx
(3.41)
(3.42)∑∑∫∫==
∞
∞−
∞
∞−⋅=−⋅⋅=⋅=
N
ii
ni
N
iii
nnn pxxxxpxxxfx11
d)(δd)()(E xx η
∑=
−⋅=N
iii xxpxf
1)(δ)(x
316,1,732,1308,2059,7)( 22)1()2(2 ==−=−= xx σσ xx mm
26
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 51
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.2 Fortsetzung: Quadratischer Mittelwert und Varianz einer gleichverteilten wertkontinuierlichen Zufallsvariablen:
)(31
331
d1d)()(E
2221
21
31
32
12
12
222)2(2
1
xxxxxxxx
xxx
xxxfxmx
xx
++=
−
−=
−⋅=⋅== ∫∫
∞
∞−xx η
(3.43)
212
2212
22121
2)1()2(2
)(121
2)(
31
)(
xxxxxxxx
mm xx
−=
+−++=
−=xσ
(3.44)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 52
Nachrichtentechnik 23 Zufallsvariablen
Erzeugende Funktionen
Definition 3.7: Momenterzeugende Funktion ψx (s) = zweiseitigeLaplace-Transformierte der Wahrscheinlichkeitsdichte (negative Frequenzachse)
Entwicklung der Exponentialfunktion in Potenzreihe:
n-malige Differentiation nach s an der Stelle s = 0 :
(3.45)
(3.46)
∫∞
∞−
++ ⋅== xxfs xss de)(eE)( xx
xψ
∑∑∑∞
=
∞
=
∞
=
+ +=+===1
)(
10 !1
!E1
!)(EeE)(
n
nn
n
nn
n
ns
nms
ns
nss xx
xxxψ
)(
0d)(d n
sn
nm
ss
xx =
=
ψ(3.47)
27
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 53
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.8: Charakteristische Funktion φx (ω) = Fourier-Transformierte der Wahrscheinlichkeitsdichte (negative Frequenzachse)
Beispiel: diskrete Zufallsvariablen:
(3.48)
(3.49)
∫∞
∞−
++ ⋅== xxf x de)(eE)( jj ωωωφ xx
x
∑=
−⋅=N
iii xxpxf
1)(δ)(x
∑∫ ∑
∫
=
+∞
∞−
+
=
∞
∞−
+
⋅=⋅−⋅=
⋅=
N
i
xi
xN
iii
x
ipxxxp
xxf
1
jj
1
j
ede)(δ
de)()(
ωω
ωωφ xx
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 54
Nachrichtentechnik 23 Zufallsvariablen
Eigenschaften der charakteristischen Funktion:Die charakteristische Funktion ist reell, wenn die Wahrscheinlichkeitsdichte symmetrisch ist.Abschätzung:
Rücktransformation:
∫∫∞
∞−
∞
∞−
+ ==⋅≤ 1d)(de)()( j xxfxxf xxxx
ωωφ
∫∞
∞−
−⋅= ωωφ ω de)(π2
1)( j xxf xx
1)0( =xφ
(3.52)
(3.51)
(3.50)
28
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 55
Nachrichtentechnik 23 Zufallsvariablen
Entwicklung der Exponentialfunktion in eine Potenzreihe:
n-malige Differentiation nach ω an der Stelle ω = 0 :
(3.54)
(3.53)∑∑
∑
∞
=
∞
=
∞
=
+
+=+=
==
1
)(
1
0
j
!)j(1
!E)j(1
!
)j(EeE)(
n
nn
n
nnn
n
nm
n
n
x
xx
x
x
ωω
ωωφ ω
)(
0
jd
)(d nnn
nmx
x ==ωω
ωφ
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 56
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.3: gleichverteilte mittelwertfreie ZufallsvariableWahrscheinlichkeitsdichte:
charakteristische Funktion:
(3.55)
(3.56)
∆≤≤∆−
∆= sonst0
22für1
)(xxx
xxfx
( )22
2j2/
2/
2/
2/
jj
sisin
ej11
de1de)()(
xx
xx
x
x
x
x
xx
x
xx
xxf
∆∆
∆+
∆
∆−
∆
∆−
+∞
∞−
+
==
⋅∆
=
⋅∆
=⋅= ∫∫
ωω
ωω
ωω
ω
ωφ xx
29
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 57
Nachrichtentechnik 23 Zufallsvariablen
Wahrscheinlichkeitsdichte und charakteristische Funktion
quadratischer Mittelwert mit Hilfe der charakteristischen Funktion:
02
2)2(
d)(d
=
−=ωω
ωφxxm (3.57)
(3.42)
fx(x)
x ω
x∆1
φx (ω)1
x∆π22
x∆− 2x∆
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 58
Nachrichtentechnik 23 Zufallsvariablen
Beispiel 3.3 Fortsetzung:
( )
( )
12231
2
2
)2(12
2sin)2(cos2
2si
dd
ddsi
dd
2si
dd
222
03
103
2
0
31206
2242
2
03
22
02
20
2
2
2
2
02
2)2(
53
5342
xxxx
xx
xxx
xx
xxxxxxx
xxx
xm
x
xx
x
xxxx
xx
∆=
∆⋅=
∆⋅
+−=
∆⋅
−+−−+
−+−
=
∆⋅−+=
∆⋅−=
⋅−=
∆−=
=
=
==
==
K
KK
ωω ωω
ωx
(3.58)
30
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 59
Nachrichtentechnik 23 Zufallsvariablen
Definition 3.9: Bedingte Wahrscheinlichkeitsverteilung Fx|A(x | A)
Eigenschaften der bedingten Wahrscheinlichkeitsverteilung:Fx|A(∞ | A) = 1Fx|A(−∞ | A) = 0P(x1 < x ≤ x2 | A) = Fx|A(x2 | A) − Fx|A(x1 | A)
Definition 3.10: Bedingte Wahrscheinlichkeitsdichte fx|A(x | A)
(3.59)
(3.63)
)(|)|(| AP
AxPAxPAxF A∩≤=≤= xxx
xAxF
Axf AA d
)|(d)|( |
|x
x =
(3.60)(3.61)(3.62)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 60
Nachrichtentechnik 23 Zufallsvariablen
Eigenschaften der bedingten Wahrscheinlichkeitsdichte:
fx|A(x | A) ≥ 0
Beispiel 3.4: A = a < x ≤ b, fx(x) sei gegeben
(3.64)
1d)|(| =∫∞
∞−xAxf Ax (3.65)
(3.66)
(3.67)
>
≤<−−
≤
=
≤<≤<∩≤=≤<≤<
für1
für)()()()(
für0
)()()|(|
bx
bxaaFbFaFxF
ax
baPbaxPbaxF ba
xx
xx
xx xxxx
31
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 61
Nachrichtentechnik 23 Zufallsvariablen
bedingte Wahrscheinlichkeitsdichte:
(3.68)
(3.69)
>
≤<−
≤
=
≤<=≤< ≤<
≤<
für0
für)()(
)( für0
d)|(d
)|( ||
bx
bxaaFbF
xfax
xbaxF
baxf baba
xxx
xxxx
xx
fx(x)
a b x
fx|a < x ≤ b(x|a < x ≤ b)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 62
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Transformation einer Zufallsvariablen über eine Kennliniey = g(x)
Beispiele für Kennlinien:Gleichrichter, Begrenzer, Quadrierer, Logarithmierer
(4.1)
y = g(x)x(η) y(η)
32
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 63
Transformation der Wahrscheinlichkeitsverteilunggegeben: Fx(x), gesucht: Fy(y)
Beispiel einer Kennlinie
Eigenschaften von Fy(y):
Fy(y) = 1 für y ≥ ymax
Fy(y) = 0 für y ≤ ymin
Fy(y1) = P(y ≤ y1) = P(x ≤ x1) = Fx(x1)
Fy(y2) = P(x ≤ x2a) + P(x2b ≤ x ≤ x2c) = Fx(x2a) + Fx(x2c) − Fx(x2b)
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
x
y1
y
x2a x2b x2c x1
ymax
y2
ymin
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 64
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Sonderfälle einer Kennlinie:Beispiel 4.1: stückweise konstante Kennlinie
>−≤≤−
−<+=
fürfür0
cfür)(
cxcxcxc
xcxxg
−c
x
Fx(x)y = g(x)
c
x
Fy(y)
yc−c
(4.2)
33
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 65
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Diskontinuität:
Fy(y) = P(y ≤ y) = P( x ≤ y + c) = Fx(y + c) für y ≥ 0Fy(y) = P(y ≤ y) = P( x ≤ y − c) = Fx(y − c) für y < 0
Beispiel 4.2: Kennlinie mit Sprüngen (harter Entscheider)
)()()()(lim0
cFcFFF −−=−−→
xxyy εεε
−1x
Fx(x)y = g(x)1
x
Fy(y)
y
1
−1 1
1
(4.3)
(4.4)(4.5)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 66
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Sonderfall: streng monoton wachsende Funktion
aus x2 > x1 folgt g(x2) > g(x1)
Fy(g(x)) = Fx(x)
Erzeugung von Zufallsvariablen mit vorgegebener Wahrschein-lichkeitsverteilung durch Transformation einer gleichverteilten Zufallsvariablen an einer nichtlinearen (streng monoton wachsenden) Kennlinie
Ausgangsverteilung: Gleichverteilung in 0 ≤ x < 1
(4.6)
≥<≤
<=
1für110für
0für0)(
xxx
xxFx (4.7)
34
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 67
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
gewünschte Verteilung: Fy(y)
Fy(y) = Fy(g(x)) = Fx(x) = x ⇒ g(x) = Fy−1(x) für 0 ≤ x ≤ 1
Beispiel 4.3:
Bereich −∞ < y < 0:
korrespondierender Wertebereich für x : 0 < x < 1/2
(4.8)
(4.10)yyf −= e
21)(y
≥−
<=
− 0füre211
0füre21
)(y
yyF
y
y
y
)2ln(e21)( xgxxgF g =⇒=⇒=y (4.11)
(4.9)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 68
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Bereich 0 < y < ∞:
korrespondierender Wertebereich für x : 1/2 < x < 1
vollständige Kennlinie
(4.13)
<<
−
≤<=
121für
221ln
210für)2(ln
)(x
x
xxxg
−=⇒=−⇒= −
xgxxgF g
221lne
211)(y (4.12)
35
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 69
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
x
Fx(x)
y = g(x)
1
x
Fy(y)
y
1
1
1
fy(y)
y 21
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 70
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Allgemeine Beziehung für die Wahrscheinlichkeitsverteilung:
Definition des Intervalls I(y): I(y) = x | g(x) ≤ y
Fy(y) = P(y ≤ y) = P(x ∈ I(y))
(4.14)
(4.15)
x
y = g(x)
xa xb xc
ymax
y
ymin
I(y)
36
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 71
Transformation der WahrscheinlichkeitsdichteAbleitung der Wahrscheinlichkeitsverteilung:
direkte Berechnung durch Transformation über die Kennlinie y = g(x)
gegeben: fx(x), gesucht: fy(y)
Voraussetzung: fx(x) enthält keine diskreten Anteile (δ-Funktionen)
eventuell vorhandene diskrete Anteile müssen separat transformiert werden:
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
yyF
yfd
)(d)( y
y =
∑∑==
−⋅=⇒−⋅=N
iii
N
iii xgypyfxxpxf
11))((δ)(ˆ)(δ)(ˆ yx
(4.16)
(4.17)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 72
Berechnung der Wahrscheinlichkeitsdichte fy(y) an der Stelle y = y0 :
im Allgemeinen mehrere Lösungen der Kennlinie:
y0 = g(x0i)
Wahrscheinlichkeit, dass y0 ≤ y ≤ y0 + dy :
mit
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
(4.18)
(4.21)
∑=
+∈=+≤≤n
iiii xxxPyyyP
100000 )d()d( Kxy
∑=
⋅=⋅n
iii xxfyyf
1000 d)(d)( xy
)(dd
dd
00 0
ixxi
xgxy
xy
i
′===
(4.19)
(4.20)
37
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 73
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
x
x
y
x0a x0b x0c
y0
fy(y)
fx(x)
y
dy
dx0a dx0b
dx0c ∑= ′
=n
i i
ixgxfyf
1 0
00 )(
)()( xy (4.22)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 74
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
stückweise konstante Kennlinie g(x) ⇒ diskrete Anteile in fy(y)
Beispiel 4.4: Amplitudenverteilung einer sinusförmigen Funktion
Wahrscheinlichkeitsdichte des Winkels ϕ :
nichtlineare Funktion:
Wahrscheinlichkeitsdichte der Cosinus-Funktion:
≤≤−=
sonst0ππfür)( π2
1 ϕϕϕf
)cos()( ϕϕ == gy
∑=i i
gif
yf)(
)()(
dd ϕ
ϕ
ϕ
ϕy
(4.24)
(4.25)
(4.23)
38
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 75
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Transformation an einerCosinus-Kennlinie
ϕ
fϕ(ϕ)
−π π
y = cos(ϕ)
ϕfy(y)
y1
−1
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 76
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Ableitung der Nichtlinearität:
Ersetzen von ϕ durch y :
Wahrscheinlichkeitsdichte der Cosinus-Funktion
(4.27)
(4.28)
(4.26))sin()(d ϕϕϕ −=
dg
22
22
1)(cos1)sin(
1)(cos)(sin
y−=−=⇒
=+
ϕϕ
ϕϕ
11für1π
1
12)(
22π2
1<<−
−=
−⋅= y
yyyf y
39
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 77
Fy(y)
y
1
−1 1
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
Wahrscheinlichkeitsverteilung der Cosinus-Funktion
(4.30)
(4.29)
≥<<−+
−≤=
1für111fürarcsin
1für0)( π
121
yyy
yyFy
[ ] [ ]2π
π1
1π1
12
arcsinarcsind1π
1d)()( +==−
== −−∞−∫∫ yuu
uuufyF y
yy
yy
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 78
Nachrichtentechnik 24 Funktionen einer Zufallsvariablen
ErwartungswertErwartungswert einer Funktion einer Zufallsvariablen
Erwartungswertbildung und nichtlineare Operation sind im Allgemeinen nicht vertauschbar
xxfxgg d)()()(E xx ∫∞
∞−⋅=
)E()(E xx gg ≠
(4.31)
(4.32)
40
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 79
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Gemeinsame Wahrscheinlichkeitsdichte und Wahrscheinlichkeitsverteilung
Definition mehrerer Zufallsvariablen über einer Ergebnismenge
Zufallsexperiment
x(η1,η3,η8) x(η2) x(η4,η5) x(η6,η7) x∈ R
η1
η3
η2η5
η6
η7
η4
y(η1,η2) y(η3,η5,η7) y(η4,η6,η8) y∈ R
η8
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 80
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.1: Gemeinsame Wahrscheinlichkeitsverteilung Fxy(x,y)
Fxy(x,y) = P(η | x(η) ≤ x∩η | y(η) ≤ y)
Eigenschaften: 1. Fxy(−∞,−∞) = 0,
2. Fxy(x,−∞) = 0,
3. Fxy(−∞,y) = 0,
4. Fxy(x,+∞) = Fx(x),
5. Fxy(+∞,y) = Fy(y),
6. Fxy(+∞,+∞) = 1.
(5.1)
(5.2)
(5.3)
(5.4)
(5.5)
(5.6)
41
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 81
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Spezielle Ereignisse:P(x ≤ x∩ y ≤ y) = P(x, y ∈ D1) = Fxy(x,y) P(x ≤ x∩y1 ≤ y ≤ y2) = P(x, y ∈ D2) = Fxy(x,y2) − Fxy(x,y1) P(x1 ≤ x ≤ x2∩ y ≤ y) = P(x, y ∈ D3) = Fxy(x2,y) − Fxy(x1,y) P(x1 ≤ x ≤ x2∩y1 ≤ y ≤ y2) = P(x, y ∈ D4)
= Fxy(x2,y2) − Fxy(x1,y2) − Fxy(x2,y1) + Fxy(x1,y1)
(5.7)(5.8)(5.9)
(5.10)
y
x1
D1
y
x2
y2
y1
x1 x2x
y1
y2
x
D2 D3D4
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 82
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.2: Gemeinsame Wahrscheinlichkeitsdichte fxy(x,y)
Wahrscheinlichkeitsverteilung:
Randdichte − Gl.(5.4):
(5.11)
(5.12)
(5.13)
yxyxF
yxfdd
),(d),(
2xy
xy =
vuvufyxFx y
dd),(),( ∫ ∫∞− ∞−
= xyxy
vuvufxFxFx
dd),(),()( ∫ ∫∞−
∞
∞−=∞= xyxyx
yyxfx
xFxf d),(d
)(d)( ∫∞
∞−== xy
xx
42
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 83
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Analog: Randdichte von y :
Definition 5.3: Statistische Unabhängigkeit von Zufallsvariablen: Zwei Zufallsvariablen x und y sind statistisch unabhängig, wenn gilt:
fxy(x,y) = fx(x) ⋅ fy(y)
Gemeinsame Wahrscheinlichkeitsverteilung statistisch unabhängiger Zufallsvariablen:
Fxy(x,y) = Fx(x) ⋅ Fy(y)
(5.14)
(5.15)
(5.16)
xyxfyf d),()( ∫∞
∞−= xyy
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 84
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Satz 5.1: Wenn x und y statistisch unabhängig sind, dann sind es auch z = g(x) und w = h(y).
Beispiel 5.1: Paar vonZufallsvaribalen x und y, das in dem Bereich
−∆x ≤ x ≤ ∆x ∩−∆y ≤ y ≤ ∆y gleichverteilt ist
fxy(x,y) y
−∆x
x
∆x−∆y
∆y
43
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 85
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Gemeinsame Wahrscheinlichkeitsdichte:
Randdichten:
∆≤≤∆−∩∆≤≤∆−
= ∆∆ sonst 0
für),( 4
1 yyyxxxyxf yxxy
∆≤≤∆−
==
∆≤≤∆−==
∆∞
∞−
∆∞
∞−
∫
∫
sonst 0für
d),()(
sonst 0fürd),()(
21
21
yyyxyxfyf
xxxyyxfxf
y
x
xyy
xyx
(5.17)
(5.19)
(5.18)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 86
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Die statistische Unabhängigkeit ist erfüllt: fxy(x,y) = fx(x) ⋅fy(y)
fx(x)
x−∆x ∆x
fy(y)
y−∆y ∆y
44
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 87
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Beispiel 5.2: Paar von Zufallsvaribalen x und y, das in dem Bereich 0 ≤ x ≤ ∆x, ∩ 0 ≤ y ≤ ∆y ∩ x/∆x + y/∆y ≤ 1 gleichverteilt ist
fxy(x,y)y
x∆x
∆y
x/∆x + y/∆y = 1
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 88
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
gemeinsame Wahrscheinlichkeitsdichte:
Randdichten:
≤+∩∆≤≤∩∆≤≤= ∆∆∆∆
sonst 0100für),(
2y
yx
xyx yyxxyxf xy
∆≤≤
∆
−∆
=∆∆
==
∆≤≤
∆−
∆=
∆∆==
∫∫
∫∫
∆
−∆∞
∞−
∆−∆
∞
∞−
sonst 0
0für12d2d),()(
sonst 0
0für12d2d),()(
1
0
1
0
yyy
yy
xyx
xyxfyf
xxx
xx
yyxyyxfxf
yyx
xxy
xyy
xyx
(5.20)
(5.22)
(5.21)
45
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 89
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Die statistische Unabhängigkeit ist nicht erfüllt:
fxy(x,y) ≠ fx(x) ⋅ fy(y)
fx(x)
x∆x
fy(y)
y∆y
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 90
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.4: Gemeinsames Moment
Definition 5.5: Gemeinsames zentrales Moment
(5.24)
),( mkmxy
∫ ∫∞
∞−
∞
∞−== yxyxfyxm mkmkmk dd),(E),(
xyxy yx (5.23)
),( mkxyµ
∫ ∫∞
∞−
∞
∞−−−=
−−=
yxyxfmymx
mm
mk
mkmk
dd),()()(
)()(E
)1()1(
)1()1(),(
xyyx
yxxy yxµ
46
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 91
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.6: Kovarianz
Definition 5.7: Unkorrelierte Zufallsvariablen
Ex ⋅ y = Ex ⋅ Ey
Definition 5.8: Orthogonale Zufallsvariablen
Ex ⋅ y = 0
(5.26)
(5.25)
)1,1(xyµ
∫ ∫∞
∞−
∞
∞−⋅−⋅−=
−⋅−=
yxyxfmymx
mm
dd),()()(
)()(E
)1()1(
)1()1()1,1(
xyyx
yxxy yxµ
(5.27)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 92
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Satz 5.2: Statistisch unabhängige Zufallsvariablen sind unkorreliert.
Beweis:
(5.28)EEd)(d)(
dd)()(
dd),(E
yx
yx
yx
yx
xy
⋅=⋅⋅⋅=
⋅⋅⋅=
⋅⋅=⋅
∫∫
∫ ∫
∫ ∫
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
∞
∞−
yyfyxxfx
yxyfxfyx
yxyxfyx
47
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 93
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.9: Der Korrelationskoeffizient ρxy
Wertebereich des Korrelationskoeffizienten:
−1 ≤ ρxy ≤ 1
Beweis:
⇒ 1 ± 2ρxy + 1 ≥ 0 ⇒ |ρxy| ≤ 1
(5.29))(E)(E
)()(E2)1(2)1(
)1()1()1,1(
yx
yx
yx
xyxy
yx
yx
mm
mm
−⋅−
−⋅−==
σσµ
ρ
(5.30)
0E2)1()1(
≥
−±−
y
y
xx yx
σσmm (5.31)
(5.32)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 94
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Sonderfall: x und y sind unkorreliert
Sonderfall: x und y sind linear abhängig: y = a ⋅ x
my(1) = Ey = Ea ⋅ x = a ⋅ mx
(1)
σy2 = E(y − my
(1))2 = E(a⋅x − a⋅mx(1))2 = a2 ⋅ σx
2
(5.33)
(5.34)
(5.35)
(5.36)
0E)()(E )1()1()1()1(
=−⋅
=−⋅−
=yx
yx
yx
yxxy
yxyxσσσσ
ρmmmm
)1()sgn(||||
||)()(E)()(E
2
2
)1()1()1()1(
±===⋅
⋅=
⋅⋅−⋅⋅−=
−⋅−=
aaa
aa
amaammm
x
x
xxxx
yx
yxxy
xxyx
σσ
σσσσρ
48
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 95
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Definition 5.10: Komplexe Zufallsvariable z als Funktion zweier
reeller Zufallsvariablen x und y
z = x + j y
linearer Mittelwert:
mz(1) = Ez = Ex + j Ey = mx
(1) + j my(1)
quadratischer Mittelwert:
mz(2) = E|z|2 = Ez⋅z* = Ex2 + y2 = mx
(2) + my(2)
Varianz:
σz2 = E|z − mz
(1)|2 = E(x − mx(1))2 + (y − my
(1))2 = σx2 + σy
2
(5.37)
(5.38)
(5.39)
(5.40)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 96
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Funktionen zweier ZufallsvariablenWahrscheinlichkeitsverteilung
gegeben seien zwei Zufallsvariablen x und y mit der gemeinsamen Wahrscheinlichkeitsdichte fxy(x,y) und eine Funktion g mit z = g(x, y)
gesucht ist die Wahrscheinlich-keitsdichte fz(z)
Definition eines GebietesDz, in dem g(x,y) < z ist.
Ereignis, dass z ≤ z :z ≤ z = g(x,y) ≤ z = x,y ∈ Dz
x
y
Dz
z = g(x,y)
Dz
z+dz = g(x,y)∆Dz
49
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 97
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Wahrscheinlichkeitsverteilung Fz(z) :
WahrscheinlichkeitsdichteDefinition eines Gebietes ∆Dz, in dem z < g(x,y) < z + dz ist.
Ereignis, dass z < z ≤ z + dz :
z < z ≤ z + dz = x,y ∈ ∆ Dz
Wahrscheinlichkeitsdichte fz(z) :
∫∫=∈=≤=zD
z yxyxfDPzPzF dd),(,)( xyz yxz
∫∫∆
=+≤<=zD
yxyxfzzzPzzf dd),(dd)( xyz z
(5.41)
(5.42)
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 98
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Summe zweier Zufallsvariablen: z = x + yWahrscheinlichkeits-verteilung:
Wahrscheinlichkeitsdichte:
∫ ∫∞
∞−
−
∞−=
yzyxyxfzF dd),()( xyz
(5.43)
(5.44)∫∞
∞−−=
=
yyyzf
zzFzf
d),(
d)(d
)(
xy
zz x
y
Dz
z = x + y
z + dz = x + y
∆Dz
dy
x + dz
y
x
50
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 99
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Direkte Berechnung der Wahrscheinlichkeitsdichte:
Sonderfall: statistisch unabhängige Zufallsvariablen:fxy(x,y) = fx(x) ⋅ fy(y)
∫
∫ ∫∫∫
∞=
−∞=
∞=
−∞=
+−=
−=∆
−=
==
y
y
y
y
zyzx
yzxD
yzyyzf
yxyxfyxyxfzzfz
dd),(
dd),(dd),(d)(d
xy
xyxyz
(5.45)
(5.46)
)()(d)()(d)()()( zfzfxxzfxfyyfyzfzf yxyxyxz ∗=−=−= ∫∫∞
∞−
∞
∞−
FachgebietNachrichtentechnische Systeme
N T SUNIVERSITÄT
D U I S B U R GE S S E N
Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004
S. 100
Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.
Beispiel: Summe zweier gleichverteilter statistisch unabhängiger Zufallsvariablen z = x + y
fx(x)
x2 4 6 8
fy(y)
y2 4 6 8fz(z)
z2 4 6 8
0,5
0,25
0,25