eilT 1: Grundlagen Dr. Ulrich Riegel, Swiss Re Europe S.A. · 2015. 10. 12. · Dr. Ulrich Riegel,...

Schadenversicherungsmathematik

Teil 1: Grundlagen

Dr. Ulrich Riegel, Swiss Re Europe S.A.

Mathematisches Institut

LudwigMaximiliansUniversität München

Wintersemester 2015/16

Dr. Ulrich Riegel, Swiss Re Europe S.A. Schadenversicherungsmathematik 1

Teil 1: Grundlagen

1.1 Allgemeines


1.1 Allgemeines

Was ist Versicherung?

Versicherungsvertrag (Police):

Der Versicherungsnehmer (VN) verpichtet sich zur Zahlung eines imvoraus fälligen Geldbetrags (Prämie).

Das Versicherungsunternehmen (VU) verpichtet sich bei Eintritt von imVertrag näher denierten ungewissen Ereignissen (Schäden) bestimmteZahlungen an den VN zu leisten.

Die Zahlungen hängen meist vom betreenden Ereignis ab und sollen denaus dem Ereignis resultierenden Nachteil des VN reduzieren oderausgleichen.


1.1 Allgemeines

Was ist Versicherung?

Das VU übernimmt also ungewisse Zahlungen gegen feste Prämie.

Der VN kann ungewissen Kosten gegen planbare Kosten tauschen.

Ruinös hohe Schäden mit kleinen Eintrittswahrscheinlichkeiten werden durchVersicherung überhaupt erst tragbar.


1.1 Allgemeines

Überblick über die wichtigsten Versicherungszweige

Beitragseinnahmen 2013 in Deutschland in Mrd. EUR:

Lebensversicherung: 90;8Krankenversicherung: 35;8Schadenversicherung: 58;3


1.1 Allgemeines

Versicherungszweige in der SchadenversicherungBeiträge Zweig SQ 2012 SQ 2013

13,2 Kfz-Haftpicht (KH) 95,4% 91,1%7,2 Kfz-Vollkasko 92,2% 101,4%1,5 Kfz-Teilkasko HUK 67,5% 86,4%7,1 Allg. Haftpicht 64,8% 66,4%6,5 Unfall 59,2% 59,7%3,3 Rechtsschutz 70,6% 72,4%5,8 Industrielle und gewerbliche

Sachversicherung 84,8% 104,2%1,8 Technische Versicherung Sach 65,3% 71,4%5,2 Verbundene Wohngebäude 79,1% 108,6%2,7 Verbundene Hausrat 48,7% 50,0%0,5 sonstige Sach1,9 Transport- und Luftfahrt 65,6% 75,7%1,6 Kredit 59,9% 57,1%58,3 Schadenvers. insgesamt 77,4% 83,9%


1.1 Allgemeines

Einordnung der Schadenversicherungsmathematik

Unterschiede zwischen Lebens- und Schadenversicherung

Lebensversicherung Schadenversicherung

max. 1 Schaden pro Risiko mehrere Schäden pro Risiko/Jahrmöglich

feste Schadenhöhe variable Schadenhöhe) niedrige Variabilität ) hohe Variabilität

lange Policenlaufzeit kurze Policenlaufzeit (1 Jahr)

hohes Gewicht des Zinsertrags niedrigeres Gewicht des Zinsertrags) Finanzmathematik ) Stochastik


1.1 Allgemeines

Einordnung der Schadenversicherungsmathematik

Unterschied zwischen Risikotheorie und Schadenversicherungsmathematik :

Risikotheorie Schadenversicherungsmathematik

Versicherungsprobleme von eigen-ständigem math. Interesse

Anwendung bekannter und neuermath. Methoden auf Versicherungs-probleme

- Schadenzahlprozess - Tarifkalkulation- Gesamtschaden-Verteilung - Schadenreservierung- Ruintheorie - Risikoteilung- Prämienprinzipien- Credibilitytheorie


1.1 Allgemeines

Aktuar

Aktuar (englisch: Actuary) = Versicherungsmathematiker:

Der actuarius im alten Rom schrieb die Senatsbeschlüsse mit. Die ersteLebensversicherungsgesellschaft Equitable Life (1762) gab ihremVorstandsvorsitzenden die Bezeichnung Actuary.


1.1 Allgemeines

Ausbildung zum Aktuar DAV

Die Deutsche Aktuarvereinigung e.V. (DAV) ist die berufsständische Vertretungder Versicherungs- und Finanzmathematiker in Deutschland. Zur Aufnahme indie DAV sind Prüfungen in verschiedenen aktuarwissenschaftlichen Disziplinenerforderlich.

Voraussetzungen zur Zulassung:

Abschluss eines mathematischen Studiums (120 ECTS math.Prüfungsleistungen)

Grundkenntnissen in Wahrscheinlichkeitstheorie und Statistik


1.1 Allgemeines


Prüfungsfächer im Grundwissen:

Statististische Methoden / Risikotheorie

Grundprinzipien der Versicherungs- und Finanzmathematik

Personenversicherungsmathematik


Finanzmathematik und Investmentmanagement

Modellierung

Versicherungswirtschaftslehre

Rechnungslegung

Wertorientiertes Risikomanagement


1.1 Allgemeines


Pichtfächer ohne Prüfung:

Berufskunde

Informationsverarbeitung

Rechtsgrundlagen

Ferner eine Spezialwissenprüfung in einem der folgenden Gebiete:

Lebensversicherungsmathematik


Pensionsversicherungsmathematik

Krankenversicherungsmathematik

Finanzmathematik

Bausparmathematik


1.1 Allgemeines

Modellbildung

Realität

Daten

Modell spezizieren

Parameter schätzen

Daten Anpassung testen

Prognose berechnen

Prognose validieren()

Prognose anwenden

nein

nein

() Plausibilitätskontrolle, Sensitivitätsprüfung, AusreiÿereinussDr. Ulrich Riegel, Swiss Re Europe S.A. Schadenversicherungsmathematik 13

1.1 Allgemeines

Bezeichnungen und Begrie

Alle Zufallsvariablen seien auf einem fest gewählten Wahrscheinlichkeitsraum(Ω;A;P) deniert. Für Zufallsvariable X und Y :

E(X ) Erwartungswert von X bezüglich P

Var(X ) Varianz von X bezüglich P

Cov(X ;Y ) Kovarianz von X und Y bezüglich P

Sd(X ) Standardabweichung X , Sd(X ) =√Var(X )

Vco(X ) Variationskoezient von X , d.h. Vco(X ) = Sd(X )=E(X )

Sch(X ) Schiefe von X , d.h. Sch(X ) = E((X E(X ))3)=Sd(X )3

FX Verteilungsfunktion von X , d.h. FX (x) := P(X x)

FX Quantilfunktion von F , d.h. F

X (p) := inffx 2 R+jFX (x) pg


1.1 Allgemeines


Risiko Zufallsvariable R 0 mit 0 < E(R) <1,0 < Var(R) <1. Kleinste Einheit, die Gegenstandeines Versicherungsvertrags sein könnte. R gibt dieHöhe des vom VU (unter diesem Vertrag) zubezahlenden Jahresgesamtschadens an.

Police Versicherungsvertrag für ein oder mehrere Risikeneines VN.

Risikogruppe (Kollektiv) Menge von Risiken mit ähnlichen äuÿeren Merkmalen(z.B. Einfamilienhäuser in München in derFeuerversicherung).

Portfolio Menge von beliebigen Risiken (z.B. alle Risiken einesVU).


1.1 Allgemeines


R+ Nichtnegative reelle Zahlen R+ := [0;1)

Lp(R+) Menge aller Zufallsgröÿen X mit X (Ω) R+ und E(jX jp) <1LR Menge aller Risiken; LR = fX 2 L2(R+) j Var(R) > 0gN (; 2) Normalverteilung mit Erwartungswert und Varianz 2

Nd(;Σ) d-dimensionale Normalverteilung mit Erwartungswertvektor undKovarianzmatrix Σ

Φ Verteilungsfunktion der Standardnormalverteilung

XnP! Y Die Folge Xn konvergiert in P-Wahrscheinlichkeit gegen Y

XnD! Die Folge Xn konvergiert in Verteilung gegen das W-Maÿ

PX Bildmaÿ von X

PX jY reguläre bedingte Wahrscheinlichkeit von X gegeben Y


Teil 1: Grundlagen

1.2 Grundüberlegungen zum Versicherungsprinzip



Erinnerung

Ungleichung von Tschebysche: Sei X eine Zufallsvariable mit endlicherVarianz, dann gilt

P(jX E(X )j ) Var(X )

2:



Erinnerung

Schwaches Gesetz der groÿen Zahlen: Sei X1;X2; : : : eine Folge paarweiseunkorrelierter Zufallsvariabler mit limn!1

1n2

∑ni=1 Var(Xi ) = 0. Dann gilt

limn!1

1n

n∑i=1

(Xi E(Xi )) = 0 in P-Wahrscheinlichkeit.

Starkes Gesetz der groÿen Zahlen: Für jede Folge X1;X2; : : : von paarweiseunabhängigen, integrierbaren, identisch verteilten Zufallsvariablen gilt

limn!1

X1 + + Xn

n= E(X1) fast sicher.



Erinnerung

Eine Folge X1;X2; : : : von Zufallsvariablen heiÿt unabhängig und identischverteilt (kurz i.i.d. independent and identically distributed), wenn die Familie(Xi )i1 unabhängig ist und die Xi alle die gleiche Verteilung haben.

Zentraler Grenzwertsatz: Für i.i.d.-Folgen X1;X2; : : : mit0 < := Sd(X1) <1 gilt

1

pn

n∑i=1

(Xi E(Xi ))D! N (0; 1)

für n !1.



Erinnerung

Cauchy-Schwarzsche Ungleichung: Für jede positiv semidenite, symmetrischeBilinearform b auf einem Vektorraum V gilt

b(v ;w)2 b(v ; v)b(w ;w) für alle v ;w 2 V .

Spezialfall: jCov(X ;Y )j Sd(X )Sd(Y ) für alle quadratintegrierbarenZufallsvariablen X und Y .



Beispiel

Wir betrachten I Würfel. Es sei Ri die Augenzahl des Würfels i . Dann ist SI dieSumme der Augen aller I Würfel. Sei " = 0;1.

I E(SI ) Sd(SI ) zI = 0;1E(SI )Sd(SI )

2 Φ(zI ) P(∣∣∣SIE(SI )

E(SI )

∣∣∣ > ")

1 3.5 1.71 0.205 0.84 110 35 5.40 0.648 0.517 0.522100 350 17.1 2.05 0.040 0.0401000 3500 54.0 6.48 1010 1010

Hier haben wir den zentralen Grenzwertsatz für die Approximation

P

(∣∣∣∣SI E(SI )E(SI )

∣∣∣∣ > "

)= P

(∣∣∣∣SI E(SI )Sd(SI )

∣∣∣∣ > " E(SI )Sd(SI )

) 2 Φ

(" E(SI )

Sd(SI )

):

verwendet.



Aufteilung des Sicherheitskapitals auf einzelne Risiken

Denition: Eine Familie (I )I2N von Abbildungen

I : (LR)I (0;+1) ! (0;+1)I

heiÿt Kapitalallokation, wenn folgende Bedingungen erfüllt sind

(1)I∑

i=1

Ii (R1; : : : ;RI ; c) = c für alle I 2 N;Ri 2 LR und c > 0.

(2) Für I 2, t > 0 und Risiken R1; : : : ;RI gilt stets

limt!0

I (R1; : : : ;RI1; tRI ; c) = (I1(R1; : : : ;RI1; c); 0):

(3) Für Permutationen : f1; : : : ; Ig ! f1; : : : ; Ig gilt stets

I(i)(R(1); : : : ;R(I ); c) = Ii (R1; : : : ;RI ; c):




Wir betrachten ein Portefeuille R1;R2; : : : ;RI von Risiken mit Gesamtschaden Sund Sicherheitskapital c . Wir schreiben kurz

ci := Ii (R1; : : : ;RI ; c):

Dem Risiko Ri wird dann das Risikokapital ci zugeordnet. Dies bewirkt eineAufteilung des insgesamt erforderlichen Schwankungszuschlags auf die einzelnenRisiken.




Beispiel: Beispiele für Kapitalallokationen:

cEi :=E(Ri )

E(S) c (Erwartungswertprinzip)

cAi :=Sd(Ri )∑Ij=1 Sd(Rj)

c (Standardabweichungsprinzip)

cVi :=Var(Ri )∑Ij=1 Var(Rj)

c (Varianzprinzip)

Dagegen deniert ci = Sd(Ri )Sd(S) c (bzw. ci = Var(Ri )

Var(S) c) keine Kapitallallokation, da∑Ii=1 ci = c nur für vollständig korrelierte (bzw. für unabhängige) Risiken gilt.



Teilportefeuille

Denition: Sei I := f1; 2; : : : Ig. Unter einem Teilportefeuille verstehen wir eineTeilmenge fRi j i 2 M I g von fR1; : : : ;RIg. Es kann mit der TeilmengeM I identiziert werden. Wir schreiben SM =

∑i2M Ri und cM =

∑i2M ci .



Stabile Kapitalallokation

Denition: Eine Kapitalallokation heiÿt stabil, wenn für jedes TeilportefeuilleM I

P (SM E(SM) + cM) P (S E(S) + c)

gilt, d.h. die Sicherheitswahrscheinlichkeit im Teilportefeuille ist nicht gröÿer alsdie Sicherheitswahrscheinlichkeit im Gesamtportefeuille.

Das Teilportefeuille bekommt somit nicht mehr Kapital zugeordnet, als es fürsich allein zum Erreichen der gleichen Sicherheitswahrscheinlichkeit wie dasGesamtportefeuille bräuchte (sonst würde sich M von I nM lossagen wollen).



Faire Kapitalallokation

Denition: Eine Kapitalallokation heiÿt fair, wenn für Teilportefeuilles L, M I

mit SL, SI nL unabhängig und SM , SI nM unabhängig und

P(SL E(SL) + x) P(SM E(SM) + x) für alle x > 0

gilt, dasscL cM :

Bei ungefährlicherer Gesamtschaden-Verteilung wird also weniger Kapitalallokiert (falls die Teilportefeuilles vom Rest unabhängig sind).



Erwartungswertprinzip

Die Kapitalallokation cEi ist weder stabil noch fair:

Seien S = R1 + R2 mit R1;R2 unabhängig und R1 N (; 2); R2 N (3; 2).Dann gilt S N (4; 22), cE1 = c

4; cE2 = 3

4c und

P(S E(S) + c) = Φ

(c

Sd(S)

)= Φ

(cp2

):

Aber wegen

P

(R2 E(R2) +

34c

)= Φ

(3c=4Sd(R2)

)= Φ

(c

4=3

)> Φ

(cp2

)ist die individuelle Sicherheitswahrscheinlichkeit von R2 gröÿer als im Portefeuillemit R1 zusammen, so dass R2 sich allein besser stellen würde. DieKapitalallokation ist also nicht stabil.



Erwartungswertprinzip

Sie ist aber auch nicht fair, denn wegen

P(R1 E(R1) + x) = Φ

(x

Sd(R1)

)= Φ

( x

)= Φ

(x

Sd(R2)

)= P(R2 E(R2) + x)

für alle x > 0 sind beide Verteilungen gleich gefährlich (und jeweils unabhängigvom Rest), aber dennoch bekommt R1 weniger Kapital allokiert als R2.



Standardabweichungs- und Varianzprinzip

Die Kapitalallokationen cAi und cVi sind nicht fair:

Seien S = R1 + : : : + R5, L = f1; 2; 3g und M = f4; 5g. Weiter seienR1;R2;R3 N (; 2) unabhängig, insbesondere SL N (3; 32). Für dieverbleibenden Risiken nehmen wir an, dass R4;R5 N (; 2) vollständigkorreliert und unabhängig von R1;R2;R3 sind. Dann SM N (2; 42).Dann ist cAL = cVL = 3

5c und cAM = cVM = 2

5c , obwohl

P(SL E(SL) + x) = Φ

(x

Sd(SL)

)= Φ

(xp3

)> Φ

( x2

)= Φ

(x

Sd(SM)

)= P(SM E(SM) + x)

d.h. L bekommt mehr Kapital allokiert als M, obwohl seine Verteilungungefährlicher ist.



Rolle der Unabhängigkeitsannahme

Warum benötigen wir die Unabhängigkeitsannahme in der Denition der fairenKapitalallokation?

Betrachte S = R1 + R2 + R3, SL = R2, SM = R3, wobei R1 R2 unabhängigund R1 R3 vollständig korreliert sind. Dann sind SM und SI nM = R1 +R2 nichtunabhängig. Wir haben

P(SL E(SL) + x) = P(SM E(SM) + x) für alle x > 0;

aber cL < cM sollte nicht als unfair gelten.



Kovarianzprinzip

Satz: Die Kapitalallokation

ci =Cov(Ri ;S)

Var(S) c (Kovarianzprinzip)

im Portefeuille fR1;R2; : : : ;RIg nicht-negativ korrelierter Risiken mitGesamtschaden S =

∑Ii=1 Ri und Sicherheitskapital c ist unter

Normalverteilungsannahme für die Teilportefeuilles stabil und fair.

Beweis: Das Kovarianzprinzip deniert eine Kapitalallokation, da

I∑i=1

Cov(Ri ;S) = Cov

(I∑

i=1

Ri ;S

)= Cov(S ;S) = Var(S)

und da Cov(Ri ;S) Cov(Ri ;Ri ) = Var(Ri ) > 0.



Kovarianzprinzip

Die Kapitalallokation ci ist unter Normalverteilungsannahme stabil:

In einem normalverteilten Portefeuille S mit Sicherheitskapital c besteht diekollektive Sicherheitswahrscheinlichkeit

P(S E(S) + c) = Φ

(c

Sd(S)

):

Sei M I ein Teilportefeuille mit SM normalverteilt. Das zugeordnete Kapitalist

cM =∑i2M

Cov(Ri ;S)

Var(S) c =

Cov(SM ;S)

Var(S) c = (SM ;S) Sd(SM)

Sd(S) c

mit (SM ;S) =Cov(SM ;S)

Sd(SM) Sd(S) 1.



Kovarianzprinzip

Auf sich allein gestellt hätte das Teilportefeuille M bei Sicherheitskapital cM dieindividuelle Sicherheitswahrscheinlichkeit

P(SM E(SM) + cM) = Φ

(cM

Sd(SM)

)= Φ

((SM ;S) c

Sd(S)

) Φ

(c

Sd(S)

)= P(S E(S) + c):



Kovarianzprinzip

Die Kapitalallokation ci ist unter Normalverteilungsannahme fair:

Seien L;M Teilportefeuilles, SL;SM normalverteilt, und

P(SL E(SL) + x) P(SM E(SM) + x) für alle x > 0.

Dann giltΦ

(x

Sd(SL)

) Φ

(x

Sd(SM)

);

d.h. Sd(SL) Sd(SM). Wenn SL und SI L unabhängig sind, so ist

Cov(SL;S) = Cov(SL;SL + SI nL) = Var(SL)

und ebenso Cov(SM ;S) = Var(SM) für unabhängige SM ;SI nM . Insgesamt ist also

cL =Cov(SL;S)

Var(S) c =

Var(SL)

Var(S) c Var(SM)

Var(S) c =

Cov(SM ;S)

Var(S) c = cM :



Normalverteilungsannahme

Beachte:

Wir haben normalverteilte Risiken betrachtet. Genau genommen widersprichtdies unserer Annahme, dass Risiken immer nicht-negativ sein müssen.

Solange die Approximation in einem gewissen Bereich um den Erwartungswertgut ist und die Wahrscheinlichkeit für negative Werte sehr klein ist, ist dieNormalverteilungsannahme jedoch akzeptabel.


Teil 1: Grundlagen

1.3 Das Individuelle Modell



Modellüberprüfung

Überprüfung der Annahme E(Zj) = m für mehrere Jahre j = 1; : : : ; J:Plot der Realisierungen Zj gegen j bzw. gegen vj .(Frage: Wie sollte der Plot aussehen?)

Überprüfung der Annahme Var(Zj) = s2=vj :Könnte analog durch einen Plot gegen vj erfolgen, wenn man Schätzer derVar(Zj) hätte, die nicht auf den Modellannahmen beruhen (sondern z.B. aufEinzelrisikodaten).



Modellüberprüfung

Mögliches Vorgehen zur Überprüfung von Var(Zj) = s2=vj :

Betrachte K Perioden zu je J Jahren der Risikogruppe und schätze derenStreuung für k = 1; : : : ;K mit

Vk =

J∑j=1

v (k)j

v (k)+

(Z (k)j m(k)

)2mit m(k) =

J∑j=1

v (k)j Z (k)

j

v (k)+

und v (k)+ =

J∑j=1

v (k)j

Unter den Modellannahmen ist

E(Vk) = (J 1)s2=v (k)+ :

Plottet man für mehrere (disjunkte) J-Jahreszeiträume Vk gegen v (k)+ bzw.

log(Vk) gegen log(v (k)+ ), so sollten die Punkte um eine Hyperbel bzw. eine

Gerade mit Steigung 1 streuen.



Modellüberprüfung

Problem: Die dazu nötige Konstanz von s2 kann über so viele Jahre kaumunterstellt werden.

In der folgenden Abbildung wird ein 10-Jahreszeitraum für verschiedeneRisikogruppen k = 1; :::;K betrachtet und log(Vk) gegen log(v (k)

+ ) geplottet.

Obwohl gemäÿ Modell für jede Risikogruppe E(Vk) = (J 1)(s(k))2=v (k)

+ gilt mitmöglicherweise unterschiedlichen s(k), zeigt sich, dass die Punkte trotzdemgleichmäÿig um eine Gerade mit Steigung -1 streuen.



Modellüberprüfung

Plot von log(Vk) gegen log(v (k)+ ) für verschiedene Risikogruppen k :

5 6 7 8

1

0

1

2

3

4

log(Vk)

log(v (k)+ )

Gerade mit

Steigung 1



Gamma-Verteilung

Gamma-Dichten mit festem und verschiedenen Werten für :

1 2

1=

2=

3=

4=

5=

6=

0

=125

=25

=5

=1=0;2

=0;04


Teil 1: Grundlagen

1.4 Maximum Likelihood und Minimum Chi-Quadrat



Methoden zur Schätzung von Parametern

Wir verwenden vier Methoden zur Schätzung von Parametern:

Momentenmethode

Maximum-Likelihood-Methode (ML-Methode)

Minimum-Chi-Quadrat-Methode (asymptotisch äquivalent zu ML-Methode)

Kleinste-Quadrate-Methode(Ausgleichsverfahren durch Abstandsminimierung = ML-Methode beiNormal-Verteilung)



Maximum-Likelihood

Gegeben seien unabhängige Beobachtungen X1;X2; : : :, deren Dichten gi (x j #)bezüglich eines gemeinsamen dominierenden Maÿes von den gleichenunbekannten Parametern # := (#1; : : : ; #K )t 2 Θ (mit Θ RK oen) abhängen.

Denition: Ein Schätzer #n = #n(X1; : : : ;Xn) für # = (#1; : : : ; #K )t heiÿtMaximum Likelihood-Schätzer, wenn er die Likelihoodfunktion

Ln(#) :=

n∏i=1

gi (Xi j #)

maximiert. Dies ist natürlich äquivalent dazu, dass #n die log-Likelihoodfunktion

`n(#) := lnLn(#) =

n∑i=1

ln gi (Xi j #)

maximiert.



Beispiel Gamma-Verteilung

Es seien Zj Γ(; vj), j = 1; : : : ; J unabhängige Beobachtungen mit bekanntenVolumina vj . Mit obiger Notation haben wir dann # = (#1; #2) = (;), n = Jund gi (x j #) = g;vi(x).

Für die ML-Schätzer von und gilt dann

=

∑Jj=1 vjZj∑Jj=1 vj

; =J∑J

j=1 vj (Ψ(vj + 1) ln(vjZj=)):

Der ML-Schätzer für ist unabhängig von . Die Berechnung von ist nuriterativ möglich (mit dem Momentenschätzer als Startwert) oder mitNewton-Verfahren (mittels Approximation für die Trigamma-Funktion Ψ0).




Beweis: Wir haben

lnL(;) =

J∑j=1

ln(g;vj(Zj))

=

J∑j=1

[vj ln

(vj

) ln (Γ(vj)) + (vj 1) ln(Zj) vjZj

]:

Somit@ ln(L)

@=

J∑j=1

(vj

+

vjZj2

):

Nullsetzen liefert

=

∑Jj=1 vjZj∑Jj=1 vj

:




Einsetzen in die log-Likelihood und Ableiten liefert

@ ln(L(; ))

@=

J∑j=1

[vj ln(vj) +

vjvj

vj vj ln()Ψ(vj)vj + vj ln(Zj) vjZj

]=

J∑j=1

vj

[ln(vjZj=) + 1Ψ(vj) Zj

]=

J∑j=1

vj

[ln(vjZj=) + 1Ψ(vj + 1) +

1vj

Zj

]=

J∑j=1

vj

[ln(vjZj=)Ψ(vj + 1) +

1vj

]

= J∑j=1

vj(

Ψ(vj + 1) ln(vjZj=))+

J:




Nullsetzen liefert

=J∑J

j=1 vj (Ψ(vj + 1) ln(vjZj=)):



Maximum Likelihood

Denition: Eine Folge #n = #n(X1; : : : ;Xn) heiÿt asymptotischer MaximumLikelihood-Schätzer für #, wenn für jedes # 2 Θ

P#

(Ln(#n) = max

#2ΘLn(#)

)! 1 (n !1)

gilt.

Notation: Wir schreiben

r :=

@@#1

...@

@#K

:

Dann ist rf der Gradient und rrt f die Hessematrix einer Funktion f : Θ ! R.



Maximum Likelihood

Wir setzen voraus, dass die gi zweimal stetig nach # dierenzierbar sind und dieVertauschbarkeitsbedingungen

r∫R

gi (x j #) dx =

∫R

rgi (x j #) dx und

rrt

∫R

gi (x j #) dx =

∫R

rrtgi (x j #) dx

erfüllt sind.



Maximum Likelihood

Denition: Der Zufallsvektor r`n(#) heiÿt Score-Vektor. Die K K -Matrix

In(#) := E#(r`n(#) rt`n(#))

)= E#

(@

@#i

`n(#) @

@#j

`n(#)

)i ;j

heiÿt die Fisher-Informationsmatrix.

Lemma: Es gilt

In(#) = Cov#(r`n(#)) = E#(rrt`n(#)):



Maximum Likelihood

Beweis:

Es gilt mit fn(x ; #) =∏n

i=1 gi (xi j #):

E#(r`n(#)) =

∫Rn

rfn(x ; #)

fn(x ; #)fn(x ; #) dx

=

∫Rn

rfn(x ; #) dx = r∫Rn

fn(x ; #) dx = 0

und somitIn(#) = Cov#(r`n(#)):



Maximum Likelihood

Wegen

rrt ln fn(x ; #) =rrt f (x ; #)

fn(x ; #) (rfn(x ; #)) (rt fn(x ; #))

(fn(x ; #))2

=rrt f (x ; #)

fn(x ; #) (r ln fn(x ; #)) (rt ln fn(x ; #))

gilt

E#(rrt`n(#)) =

∫Rn

fn(x ; #) rrt ln fn(x ; #) dx

= rrt

∫Rn

fn(x ; #) dx

∫Rn

(r ln fn(x ; #)) (rt ln fn(x ; #)) fn(x ; #) dx

= E#(r`n(#) rt`n(#))

):



Maximum Likelihood

Denition: Unter einer Normierungsfolge verstehen wir eine Folge vonK K -Diagonalmatrizen

Γn = diag( n1; : : : ; nK )

mit nk > 0 und nk ! 0 für n !1. Ein asymptotischer ML-Schätzer heiÿtΓ1n -konsistent für #, wenn die Folge

Γ1n (#n #)

P#-stochastisch beschränkt ist (d.h. zu jedem " > 0 gibt es ein C" > 0, so dassfür alle n 2 N gilt P(kΓ1n (#n #)k C") > 1 ").

Ein wichtiger Spezialfall ist die Normierungsfolge Γn := diag(1=pn). Man spricht

dann von einempn-konsistenten Schätzer.



Maximum Likelihood

Satz: Die X1;X2; : : : seien i.i.d. mit Dichten der Form

gi (x j #) = g(x j #) = exp(#tt(x) b(x)) h(x): ()

Hierbei seien t : R ! RK messbar und b : Θ ! R zweimal stetig dierenzierbarmit positiv deniter Hessematrix rrtb(#). Dann gibt es einen

pn-konsistenten

ML-Schätzer für #. Für jeden asymptotischen ML-Schätzer gilt dieasymptotische Normalität

pn(#n #)

D#! NK (0; I1(#)1)

(beachte: In(#) = nI1(#)).



Maximum Likelihood

Bemerkung: Bei einer Verteilungsfamilie mit Dichten der Form (), d.h.

g(x j #) = exp(#tt(x) b(x)) h(x);

spricht man von einer Exponentialfamilie. Viele der wichtigen Verteilungsfamilienlassen sich als Exponentialfamilien schreiben, z.B.:

Normalverteilung

Poisson-Verteilung

Gamma-Verteiung

Inverse Gauÿ-Verteilung



Maximum Likelihood

Beweisskizze: Wir schreiben Un := r`n. Dann gilt

`n(#) = #t

n∑i=1

t(Xi ) nb(#) +

n∑i=1

ln h(Xi );

Un(#) =

n∑i=1

t(Xi ) nrb(#);

dUn

d#(#) = rrt`n = nrrtb(#) = In(#) = nI1(#):

Nach dem zentralen Grenzwertsatz in mehreren Variablen gilt wegen E(U1) = 0und I1(#) = Cov#(U1)

1pnUn(#)

D#! NK (0; I1(#)): ()



Maximum Likelihood

Ist #n ein asymptotischer ML-Schätzer für #, so gilt

0 = Un(#n) = Un(#) +dUn

d#(#)(#n #) + o(#n #)

= Un(#) nI1(#)(#n #) + o(#n #)

(mit h1 o#(h) ! 0 für h ! 0). Hieraus folgt

pn(#n #) = I1(#)1

1pnUn(#) + o(#n #):

Wegen () erhalten wir hieraus

pn(#n #)

D#! NK

(0; I1(#)1I1(#)

(I1(#)1

)t)= NK

(0; I1(#)1

):



Maximum Likelihood

Da rrtb(#) positiv denit ist, ist eine Lösung der Likelihood-Gleichungen

n∑i=1

t(Xi ) nrb(#) = Un(#) = 0

stets eindeutig und entspricht einem Maximum. Da rb(Θ) oen ist undE#(Un) = 0 gilt, sind die Likelihood-Gleichungen asymptotisch lösbar. DieKonsistenz kann direkt nachgewiesen werden.



Maximum Likelihood Beispiel

Beispiel: Sei Xi N (; 2) und # = (; 2). Dann ist

`n(; 2) =

n∑i=1

(12ln(22) (Xi )2

22

):

Durch Nullsetzen der partiellen Ableitungen

@

@`n(; 2) =

n∑i=1

(Xi )

2und

@

@2`n(; 2) =

n∑i=1

( 122

+(Xi )2

24

)erhalten wir die ML-Schätzer

n =1n

n∑i=1

Xi (erwartungstreu),

2n =1n

n∑i=1

(Xi n)2 (asymptotisch erwartungstreu).




Es gilt

@2

@2`n(; 2) =

n∑i=1

12

= n2

;

(@

@2

)2

`n(; 2) =

n∑i=1

(124

(Xi )2

6

);

@2

@@2`n(; 2) =

n∑i=1

(Xi )

4

und wir erhalten

In(; 2) = E(rrt`n(; 2)) =

(n2 00 n

24

):




Somit also

In(; 2)1 =

(2

n0

0 24

n

):

Zum Vergleich die exakte Kovarianzmatrix:

Cov((; 2)t) =

(2

n0

0 2(n1)4

n2

):



Maximum Likelihood

Satz: Für n !1 gelten∑i=1

E#(kΓnr ln gi (Xi ; #)k2 1fkΓnr ln gi (Xi ;#)k>"g

)! 0 für alle " > 0 (ML1)

und ΓnIn(#)Γn ! Σ(#) (ML2)

mit einer positiv deniten Matrix Σ(#). Weiter gelte für jede Folge#n = #n(X1; : : : ;Xn) mit der Eigenschaft

Γ1n (#n #); n 1 P#-stochastisch beschränkt;

dassΓn

(rrt`n(#n)

)Γn

P#! Σ(#): (ML3)

Dann gibt es einen Γ1n -konsistenten ML-Schätzer für #. Für jedenΓ1n -konsistenten ML-Schätzer gilt die asymptotische Normalität

Γ1n (#n #)D#! NK (0;Σ(#)1):



Maximum Likelihood

Folgerung (auch für diese allgemeine Situation): Für groÿe kann manannehmen, dass näherungsweise

Γ1n (#n #) NK (0; Γ1n In(#)1Γ1n )

und somit näherungsweise

#n # NK

(0; In(#)1

)gilt.



Maximum Likelihood

Bemerkung:

Die Bedingungen (ML1) und (ML2) in Satz 65 kommen aus demmultivariaten zentralen Grenzwertsatz und stellen sicher, dass r`n(#)asymptotisch normalverteilt ist.

Sind X1;X2; : : : i.i.d., so sind (ML1) und (ML2) erfüllt mit Σ(#) = I1(#)und Γn = diag(1=

pn).

Die Bedingung (ML3) wird benötigt, da die Hessematrix rrt`n(#) imallgemeinen zufällig ist und nicht deterministisch wie bei derExponentialfamilie in Satz 57.



Maximum Likelihood

Lemma (Transformationssatz):

Sei T : Θ ! RL stetig dierenzierbar und bei # regulär (d.h. dT=d#(#) hatRang L). Es seien die Voraussetzungen des Satzes auf Folie 65 erfüllt und #n einΓ1n -konsistenter ML-Schätzer für #.

Dann gilt näherungsweise

T (#n) T (#) NK

(0;

(dTd#

(#)

)In(#)1

(dTd#

(#)

)t):




Beispiel: Seien jetzt Xi N (i ; 20) unabhängig mit bekanntem 20. Sei

# = (1; : : : ; n). Dann gilt

@

@i`n(1; : : : ; n) =

(Xi i )

20;

sowie

@2

@2i

`n(1; : : : ; n) = 1

20und

@2

@i@j`n(1; : : : ; n) = 0

für i 6= j . Somit #n = (X1; : : : ;Xn) und

In(#)1 =

20 0. . .

0 20

:




Wir betrachten

T (#) =1n

(1 + + n);

und erhalten T (#n) = 1n

(X1 + + Xn). Wegen @T@i

= 1nerhalten wir aus dem

Transformationssatz (Folie 68)

Var(T (#n)) (1n; : : : ;

1n

) 20 0. . .

0 20

1n...1n

=20n

in Übereinstimmung mit dem exakten Wert Var() = 20=n.



Maximum Likelihood

Satz (Likelihood-Quotiententest): Es seien M < K , #0M+1; : : : ; #

0K xiert,

∆ := f(1; : : : ; M) 2 RM j (1; : : : ; M ; #0M+1; : : : ; #

0K ) 2 Θg

und : ∆ ! Θ; (1; : : : ; M) 7! (1; : : : ; M ; #

0M+1; : : : ; #

0K ):

Sind dann #n und n asymptotische ML-Schätzer für # = () 2 Θ bzw. 2 ∆,so gilt unter den Voraussetzungen des Satzes auf Folie 65:

Tn := 2 ln(

Ln(#n)

Ln((n))

)= 2

(`n(#n) `n((n))

)D#! 2

KM :

Unter den Voraussetzungen des Satzes auf Folie 57 gilt die Aussage sogar fürbeliebige Immersionen : ∆ ! Θ.




Beispiel: Seien wieder Xi N (i ; 20) unabhängig mit bekanntem 20. Sei

# = (1; : : : ; n). Wir betrachten die injektive Immersion

: R! Rn; 7! (; : : : ; )t :

Dann ist #n = (X1; : : : ;Xn) und n = =1n

(X1 + + Xn) und somit

2 (`n(#n) `n((n))) = 2 n∑i=1

(12ln(220) 0 +

12ln(220) +

(Xi )2

220

)

=

n∑i=1

(Xi )2

20

annähernd 2n1-verteilt. Mit bekanntem 20 ergibt das einen Test auf Gleichheit

der Erwartungswerte 1 = : : : = n.



2-Test

Es sei nun Θ := f(p1; : : : ; pK+1) 2 RK+1 j pi > 0;∑K+1

i=1 pi = 1g. Beachte:Durch Weglassen der letzten Koordinate kann man Θ als oene Teilmenge vonRK auassen. Mit MK+1(n; p) bezeichnen wir die Mulinomialverteilung mit denParametern n 2 N und p 2 Θ.

Wir betrachten nun eine Folge MK+1(n; p)-verteilter ZufallsvektorenX (n) 2 NK+1

0 . Seien M < K , ∆ RM oen und p : ∆ ! Θ eine zweimal stetigdierenzierbare injektive Immersion.

Satz (2-Test): Bezeichnet n einenpn-konsistenten ML-Schätzer, so gilt für

die Pearson-Fisher-Teststatistik:

n∑i=1

(X (n)i npi (n))2

npi (n)

Dp()! 2KM :



Minimum 2-Schätzer

Denition: In der Situation von Satz 73 heiÿt n = n(X (n))Minimum-2-Schätzer, wenn er die 2-Abstandsfunktion

Qn(X (n); ) :=

n∑i=1

(X (n)i npi ())2

npi ()

minimiert, d.h. wenn

Qn(X (n); n) = min2∆

Qn(X (n); )

gilt.

Satz: Ein Minimum-2-Schätzer n ist stets konsistent und mit jedemkonsistenten ML-Schätzer n asymptotisch äquivalent, d.h.

pn (n n) ! 0 nach P#-Wkt.



Kleinste-Quadrate-Schätzer

Lemma (KQ-Schätzer): Seien jetzt : Θ ! Rn, 20 > 0 undX1; : : : ;Xn N (i (#); 20). Ein Schätzer # ist genau dann ein ML-Schätzer,wenn er ein Kleinste-Quadrate-Schätzer ist, d.h.

`n(#) = max#2Θ

`n(#) ()n∑i=1

(Xi i (#))2 = min#2Θ

n∑i=1

(Xi i (#))2:

Beweis: Die Behauptung folgt direkt aus

`n(#) = n2ln(220)

n∑i=1

(Xi i (#))2

220:


eilT 1: Grundlagen Dr. Ulrich Riegel, Swiss Re Europe S.A. · 2015. 10. 12. · Dr. Ulrich Riegel,...

Documents

Transcript of eilT 1: Grundlagen Dr. Ulrich Riegel, Swiss Re Europe S.A. · 2015. 10. 12. · Dr. Ulrich Riegel,...