Zeitreihenanalyse WS 2004/2005

31
Zeitreihenanalyse WS 2004/2005 efinition einer Zeitreihe, Eigenschaften ests und Trenderkennung bei Zeitreihen eispiele (ACF, Tests), Fouriertransformationen, Powerspektrum eitreihenmodellierung der ARMA-Klasse odellierung von Zeitreihen mit langem Gedächtnis ausalität, Transferfunktionen, multivariate Methoden kalierung, (Multi-)Fraktale omplexität und Information von Zeitreihen avelets Michael Hauhs / Gunnar Lischeid

description

Zeitreihenanalyse WS 2004/2005. Michael Hauhs / Gunnar Lischeid. Definition einer Zeitreihe, Eigenschaften Tests und Trenderkennung bei Zeitreihen Beispiele (ACF, Tests), Fouriertransformationen, Powerspektrum Zeitreihenmodellierung der ARMA-Klasse - PowerPoint PPT Presentation

Transcript of Zeitreihenanalyse WS 2004/2005

Page 1: Zeitreihenanalyse WS 2004/2005

ZeitreihenanalyseWS 2004/2005

• Definition einer Zeitreihe, Eigenschaften

• Tests und Trenderkennung bei Zeitreihen

• Beispiele (ACF, Tests), Fouriertransformationen, Powerspektrum

• Zeitreihenmodellierung der ARMA-Klasse

• Modellierung von Zeitreihen mit langem Gedächtnis

• Kausalität, Transferfunktionen, multivariate Methoden

• Skalierung, (Multi-)Fraktale

• Komplexität und Information von Zeitreihen

• Wavelets

Michael Hauhs / Gunnar Lischeid

Page 2: Zeitreihenanalyse WS 2004/2005

Zeitreihenmodellierung

• exogene vs. endogene Modellierung (selbsterklärende Zeitreihenmodellierung)• linear vs. nichtlinear • stationär vs. nichtstationär; schwache Stationarität• deterministisch vs. stochastisch• chaotisch vs. regulär Reaktion auf Störungen• stabil vs. instabil Gleichgewichtszustand? Intermittenz?

Mögliche Ziele und Arten:

Page 3: Zeitreihenanalyse WS 2004/2005

Exogene vs. endogene Modellierung

)(,...,,)( 21 ttyyftx

Exogen: die abhängigen Variablen werden „von aussen“ gesteuert

Endogen: die Zeitreihe wird aus ihrer eigenenGeschichte modelliert

)(,)( kik tttxftx

Page 4: Zeitreihenanalyse WS 2004/2005

Woldsches Theorem

Zerlegungstheorem (stationäre Variante):

Jede linear instationäre Zeitreihe kann als Summevon vier Termen geschrieben werden:

)())(),(()( ttytxftx Zerlegungstheorem (instationäre Variante):

)()()())(),(()( ttPtLtytxftx

Jede stationäre Zeitreihe kann als Summeeiner deterministischen und einer unkorreliertenstochastischen Komponente geschrieben werden:

L – linearer Trend P – periodischer Trend (Wold 1938)

Page 5: Zeitreihenanalyse WS 2004/2005

Lineare Relationen und Filter

Endogene Modellierung: Vergleich von beobachtetenWerten mit Modellierungsversuchen und/oder früherenBeobachtungen. Dazu filtert man die Werte.

Definition: Rückwärtsschiebeoperator 1

1

22

1

,...,

kk

jkkj

kkk

kk

txtxB

txtxBtxtBxBtxB

txtBx

Def.: Allgemeiner linearer Filter:

)()()( txBty mit Operatorpolynomi

iiBB )(

Page 6: Zeitreihenanalyse WS 2004/2005

Beispiele für Filter

n

mjjijii txtxBty )()()(

Name Bedingung Beispiel/Aussehen

Endlicher F.

Kausaler F.

Vorhersage F.

nm ,

n

jjiji txty

0

)()(

mnm ,0

m

mjjii tx

mty )(

12

1)(

0,0 nm

n

mjjiji txty )()(

Page 7: Zeitreihenanalyse WS 2004/2005

p

jijijii txtxtx

1

)(~~)(

Autoregressive Modelle

Idee: Der aktuelle Wert einer Zeitreihe ist durchdie Werte in der Vergangenheit deterministischbestimmt. Dazu kommt ein jeweils unvorhersehbaresRauschen (Innovation)

Autoregressives Modell p-ter OrdnungAR(p)-Modell

Page 8: Zeitreihenanalyse WS 2004/2005

Bedingungen an AR(p)-Modelle

0~ itx

0 i

kj

kjkjC kj

für0

für2

),(

d.h. das Rauschen ist unabhängig identisch verteilt(i.i.d.). Häufigste Wahl: Gaußsches Rauschen

Deterministischer Anteil:

p

jjiji txtx

1

)()(ˆ

Page 9: Zeitreihenanalyse WS 2004/2005

Bestimmung der Koeffizienten

Der deterministische Anteil soll maximal viel erklären.

)(ˆ)(~iii txtx soll möglichst wenig erklären!

Minimum))(ˆ)(~(!

22 iii txtxP

Einsetzen der AR(p)-Formel, Ableiten nach j),...,1(0)(~))(ˆ)(~( pjtxtxtx jiii

)(~)(~)( kii txtxkCAutokovarianz:

Autokorrelation:2~/)(~)(~xkiik txtx

Page 10: Zeitreihenanalyse WS 2004/2005

Partielle Autokorrelationsfunktion

Allgemeines Regressionsproblem:

kttkktktkt xxxx ...2211

22211

2 //...// xktjktxtjktkxktjktxktjkt xxxxxxx

kjkjjj ...2211

Lineares Gleichungssystem für die PACFInterpretation: PACF verschwindet für größere LagsAbweichung zwischen ACF und PACF deutet auf ungenügendes Modell (z.B. k zu klein)

:)(...,),(),(|)(),( 121 jiiijii txtxtxtxtxCorrPACF

Page 11: Zeitreihenanalyse WS 2004/2005

Yule-Walker Gleichung

Einsetzen der Minimalbedingung:

),...,1()()(1

pjjkCkCp

jj

(Yule und Walker 1927)

Matrixinversion:

ppp

p

p

p

.

.

1...

......

...1

...1

.

.

. 2

11

21

211

1212

1

Page 12: Zeitreihenanalyse WS 2004/2005

Explizites Beispiel I: AR(1)

In der Hydrologie auch: Thomas-Fiering-Modell

)()1())(()( 2/12111 ixii twtxtx

• erhält erstes und zweites Moment• geeignet für kurzfristige („operationelle“) Vorhersage• Generierung synthetischer Abflussganglinien

ACF des AR(1)-Prozesses:

kk 1 Exponentieller Abfall!

Page 13: Zeitreihenanalyse WS 2004/2005

Explizites Beispiel II: AR(2)

N

iitxN 1

)(1

Bestimmungsstücke:

N

iitxN 1

22 ))((1

1

1

1

211 /))()()((

1

1 N

iii txtx

N

2

1

222 /))()()((

2

1 N

iii txtx

N

Daraus folgt (Übungsaufgabe!)

21

212

221

211 11

)1(

Page 14: Zeitreihenanalyse WS 2004/2005

Vergleich ACF - PACF

-0,10

0,10,20,30,40,50,60,70,8

0 5 10 15 20

Lag [d]

ACF

PACF

Optimale AR(20)-Modellierung für Lehstenbach

Page 15: Zeitreihenanalyse WS 2004/2005

Defizite der AR-Modellierung

Kurzzeitbereich:

• Glättung der Extrema, Verpassen von Spitzen• Verzögerung von Wendepunkten

Langzeitbereich:

• exponentieller Abfall der ACF• keine Instationaritäten

Page 16: Zeitreihenanalyse WS 2004/2005

MA(q)-Modelle

Auch Rauschen kann Gedächtnis haben!

q

kkikii tttx

10 )()()( Moving-Average-Modell

qk

qkq

kkqkk

k

für0

,...,2,1für...1

...22

1

11

Koeffizientenbestimmung wieder aus ACF:

Lösung i.d.R. numerisch (nichtlinears Gl.-Sys.)

Page 17: Zeitreihenanalyse WS 2004/2005

MA(1) und MA(2) explizit

MA(1): 11 iiix

10

11 2

1

1

k

kk

ACF von MA(q)verschwindet exaktfür k > q

MA(2):

20

21

11

)1(

22

21

2

22

21

21

k

k

k

k

Page 18: Zeitreihenanalyse WS 2004/2005

Aufgabe

1. Führen Sie eine Fourieranalyse des Niederschlags-Temperatur-Abfluss-Datensatzes durch.

2. Rekonstruieren Sie die Zeitreihen; führen Sie dabei eine Bandpassfilterung durch, indem Sie nur die vorherrschenden Frequenzen berücksichtigen.

3. Erstellen Sie das Powerspektrum der Niederschlags-, Temperatur- und Abflussdaten, und bestimmen Sie die Steigung β der Regressionsgeraden im doppelt-logarithmischen Plot.

4. Suchen Sie Modelle AR(p) mit 0<p<5 und AM(q) mit 0<q<5 für den Niederschlags-Temperatur-Abfluss-Datensatz (saisonal und nicht saisonale Varianten).

5. Vergleichen Sie die Ergebnisse mit denen aus der Fourieranalyse.

Page 19: Zeitreihenanalyse WS 2004/2005

Anwendungsbereich der MA(q)-Modelle

• Test der Autokorrelation: ist nach einem endlichen (kleinen) Lag die ACF nicht mehr signifikant von Null verschieden?• Fehlen Trends und Periodizitäten?• Dann ist eine MA(q)-Modellierung vielversprechend• In den Geowissenschaften: im Wesentlichen keine Anwendung reiner MA(q)-Modelle

Page 20: Zeitreihenanalyse WS 2004/2005

ARMA(p,q)-Modelle

Kombination beider Modelltypen:

p

j

q

kikikjiji txtx

1 1

)()(

Auto Regressive Moving Average Modell der Ordnungen p und q

Operatorschreibweise:

)()()()( tBtxB

q

k

kk

p

j

jj

BB

BB

1

1

1)(

1)(

Page 21: Zeitreihenanalyse WS 2004/2005

Koeffizienten des ARMA(p,q)-Modells

1...

,...,2,1...1

...

2211

222

21

2211

qk

qk

pkpkk

q

kqqkkk

k

In aller Regel wird das folgende Gleichungssystemnumerisch gelöst:

Explizit: ARMA(1,1)

112

112

1

11111 21

)1)((

Page 22: Zeitreihenanalyse WS 2004/2005

Prinzipielle Anforderungen an ARMA(p,q)-Modelle

• Kausalität: hängt „glatt“ von Vorgängern ab, wächst nicht über alle Grenzen• Invertierbarkeit: aus den modellierten Werten soll man das Rauschenzurückrechnen können • Stationarität

Page 23: Zeitreihenanalyse WS 2004/2005

Zusammenfassung: ARMA-Modelle

p

jijij

p

jijijii txtxtxtx

11

)(~))(()()(~

p

j

q

kikikjiji txtx

1 1

)()(

AR(p)-Modell

)()()()( tBtxB kompakt:

ARMA(p,q)-Modell

q

kikikitx

1

)( MA(q)-Modell

Page 24: Zeitreihenanalyse WS 2004/2005

Kausalität bei ARMA(p,q)-Modellen

qq

pp

zzzz

zzzz

...1)(

...1)(2

21

221

Def.: Charakteristische Polynome des B -Operators

Satz: Haben die beiden Polynome keine gemeinsamenNullstellen und liegen alle Nullstellen vonaußerhalb des Einheitskreises:

)(z

10 kk zz

dann ist der ARMA(p,q)-Prozess kausal.

Page 25: Zeitreihenanalyse WS 2004/2005

Motivation zur Kausalität: AR(1)-Modell

( ( ) ) ( )1 B x t i i

iiiBB

Btx

...)1(

)(1

1)( 22

mit formaler Umkehrung:

Divergenz für 1 (d.h. 1/11 z )

Widerspruch zu Kausalität, Stationarität

(aus endlichen Ursachen entwickeln sich unbegrenzte Wirkungen)

Page 26: Zeitreihenanalyse WS 2004/2005

Kausalität, ARMA und MA

Satz: Liegt ein kausaler ARMA(p,q)-Prozess vor,kann man auch äquivalent schreiben

0

)(j

jijitx

0 )(

)(

j

jj z

zz

Dabei erhält man die Koeffizienten durch Auswertung von

0jjund es gilt

Ein kausaler ARMA(p,q)-Prozess ist äquivalent zu einem Prozess MA

Page 27: Zeitreihenanalyse WS 2004/2005

Invertierbarkeit von ARMA(p,q)-Modellen

Satz: Haben die beiden Polynome keine gemeinsamenNullstellen und liegen alle Nullstellen vonaußerhalb des Einheitskreises:

)(z

10 kk zz

dann ist der ARMA(p,q)-Prozess invertierbar.

Page 28: Zeitreihenanalyse WS 2004/2005

Motivation zur Invertierbarkeit: MA(1)-Modell

)())(1( ii tBtx

iiitxBBtx

Bt ...)1(

)(1

1)( 22

mit formaler Umkehrung:

Divergenz für 1 (d.h. 1/11 z )

Widerspruch zu Invertierbarkeit, Stationarität(aus der Zeitreihe kann nicht auf das Rauschen geschlossen werden)

Page 29: Zeitreihenanalyse WS 2004/2005

Invertierbarkeit, ARMA und ARSatz: Liegt ein invertierbarer ARMA(p,q)-Prozess vor,kann man auch äquivalent schreiben

0 )(

)(

j

jj z

zz

Dabei erhält man die Koeffizienten durch Auswertung von

0jjund es gilt

Ein invertierbarer ARMA(p,q)-Prozess ist äquivalent zu einem Prozess AR

0

)(j

jiji tx

Page 30: Zeitreihenanalyse WS 2004/2005

Stationarität von ARMA(p,q)-Modellen

Satz: Ist ein ARMA(p,q)-Prozess kausal und invertierbar, dann ist er stationär.

Stationaritätstests für ARMA(p,q)-Modelle aus zwei Kriterien

Achtung: Wenn das ARMA-Modell einer Zeitreihestationär ist, muss es die Zeitreihe selber nicht sein!

Page 31: Zeitreihenanalyse WS 2004/2005

Zusammenfassung: ARMA-Modelle

p

jijij

p

jijijii txtxtxtx

11

)(~))(()()(~

p

j

q

kikikjiji txtx

1 1

)()(

AR(p)-Modell

)()()()( tBtxB kompakt:

ARMA(p,q)-Modell

q

kikikitx

1

)( MA(q)-Modell