Post on 21-Jan-2016
description
ZeitreihenanalyseWS 2004/2005
• Definition einer Zeitreihe, Eigenschaften
• Tests und Trenderkennung bei Zeitreihen
• Beispiele (ACF, Tests), Fouriertransformationen, Powerspektrum
• Zeitreihenmodellierung der ARMA-Klasse
• Modellierung von Zeitreihen mit langem Gedächtnis
• Kausalität, Transferfunktionen, multivariate Methoden
• Skalierung, (Multi-)Fraktale
• Komplexität und Information von Zeitreihen
• Wavelets
Michael Hauhs / Gunnar Lischeid
Zeitreihenmodellierung
• exogene vs. endogene Modellierung (selbsterklärende Zeitreihenmodellierung)• linear vs. nichtlinear • stationär vs. nichtstationär; schwache Stationarität• deterministisch vs. stochastisch• chaotisch vs. regulär Reaktion auf Störungen• stabil vs. instabil Gleichgewichtszustand? Intermittenz?
Mögliche Ziele und Arten:
Exogene vs. endogene Modellierung
)(,...,,)( 21 ttyyftx
Exogen: die abhängigen Variablen werden „von aussen“ gesteuert
Endogen: die Zeitreihe wird aus ihrer eigenenGeschichte modelliert
)(,)( kik tttxftx
Woldsches Theorem
Zerlegungstheorem (stationäre Variante):
Jede linear instationäre Zeitreihe kann als Summevon vier Termen geschrieben werden:
)())(),(()( ttytxftx Zerlegungstheorem (instationäre Variante):
)()()())(),(()( ttPtLtytxftx
Jede stationäre Zeitreihe kann als Summeeiner deterministischen und einer unkorreliertenstochastischen Komponente geschrieben werden:
L – linearer Trend P – periodischer Trend (Wold 1938)
Lineare Relationen und Filter
Endogene Modellierung: Vergleich von beobachtetenWerten mit Modellierungsversuchen und/oder früherenBeobachtungen. Dazu filtert man die Werte.
Definition: Rückwärtsschiebeoperator 1
1
22
1
,...,
kk
jkkj
kkk
kk
txtxB
txtxBtxtBxBtxB
txtBx
Def.: Allgemeiner linearer Filter:
)()()( txBty mit Operatorpolynomi
iiBB )(
Beispiele für Filter
n
mjjijii txtxBty )()()(
Name Bedingung Beispiel/Aussehen
Endlicher F.
Kausaler F.
Vorhersage F.
nm ,
n
jjiji txty
0
)()(
mnm ,0
m
mjjii tx
mty )(
12
1)(
0,0 nm
n
mjjiji txty )()(
p
jijijii txtxtx
1
)(~~)(
Autoregressive Modelle
Idee: Der aktuelle Wert einer Zeitreihe ist durchdie Werte in der Vergangenheit deterministischbestimmt. Dazu kommt ein jeweils unvorhersehbaresRauschen (Innovation)
Autoregressives Modell p-ter OrdnungAR(p)-Modell
Bedingungen an AR(p)-Modelle
0~ itx
0 i
kj
kjkjC kj
für0
für2
),(
d.h. das Rauschen ist unabhängig identisch verteilt(i.i.d.). Häufigste Wahl: Gaußsches Rauschen
Deterministischer Anteil:
p
jjiji txtx
1
)()(ˆ
Bestimmung der Koeffizienten
Der deterministische Anteil soll maximal viel erklären.
)(ˆ)(~iii txtx soll möglichst wenig erklären!
Minimum))(ˆ)(~(!
22 iii txtxP
Einsetzen der AR(p)-Formel, Ableiten nach j),...,1(0)(~))(ˆ)(~( pjtxtxtx jiii
)(~)(~)( kii txtxkCAutokovarianz:
Autokorrelation:2~/)(~)(~xkiik txtx
Partielle Autokorrelationsfunktion
Allgemeines Regressionsproblem:
kttkktktkt xxxx ...2211
22211
2 //...// xktjktxtjktkxktjktxktjkt xxxxxxx
kjkjjj ...2211
Lineares Gleichungssystem für die PACFInterpretation: PACF verschwindet für größere LagsAbweichung zwischen ACF und PACF deutet auf ungenügendes Modell (z.B. k zu klein)
:)(...,),(),(|)(),( 121 jiiijii txtxtxtxtxCorrPACF
Yule-Walker Gleichung
Einsetzen der Minimalbedingung:
),...,1()()(1
pjjkCkCp
jj
(Yule und Walker 1927)
Matrixinversion:
ppp
p
p
p
.
.
1...
......
...1
...1
.
.
. 2
11
21
211
1212
1
Explizites Beispiel I: AR(1)
In der Hydrologie auch: Thomas-Fiering-Modell
)()1())(()( 2/12111 ixii twtxtx
• erhält erstes und zweites Moment• geeignet für kurzfristige („operationelle“) Vorhersage• Generierung synthetischer Abflussganglinien
ACF des AR(1)-Prozesses:
kk 1 Exponentieller Abfall!
Explizites Beispiel II: AR(2)
N
iitxN 1
)(1
Bestimmungsstücke:
N
iitxN 1
22 ))((1
1
1
1
211 /))()()((
1
1 N
iii txtx
N
2
1
222 /))()()((
2
1 N
iii txtx
N
Daraus folgt (Übungsaufgabe!)
21
212
221
211 11
)1(
Vergleich ACF - PACF
-0,10
0,10,20,30,40,50,60,70,8
0 5 10 15 20
Lag [d]
ACF
PACF
Optimale AR(20)-Modellierung für Lehstenbach
Defizite der AR-Modellierung
Kurzzeitbereich:
• Glättung der Extrema, Verpassen von Spitzen• Verzögerung von Wendepunkten
Langzeitbereich:
• exponentieller Abfall der ACF• keine Instationaritäten
MA(q)-Modelle
Auch Rauschen kann Gedächtnis haben!
q
kkikii tttx
10 )()()( Moving-Average-Modell
qk
qkq
kkqkk
k
für0
,...,2,1für...1
...22
1
11
Koeffizientenbestimmung wieder aus ACF:
Lösung i.d.R. numerisch (nichtlinears Gl.-Sys.)
MA(1) und MA(2) explizit
MA(1): 11 iiix
10
11 2
1
1
k
kk
ACF von MA(q)verschwindet exaktfür k > q
MA(2):
20
21
11
)1(
22
21
2
22
21
21
k
k
k
k
Aufgabe
1. Führen Sie eine Fourieranalyse des Niederschlags-Temperatur-Abfluss-Datensatzes durch.
2. Rekonstruieren Sie die Zeitreihen; führen Sie dabei eine Bandpassfilterung durch, indem Sie nur die vorherrschenden Frequenzen berücksichtigen.
3. Erstellen Sie das Powerspektrum der Niederschlags-, Temperatur- und Abflussdaten, und bestimmen Sie die Steigung β der Regressionsgeraden im doppelt-logarithmischen Plot.
4. Suchen Sie Modelle AR(p) mit 0<p<5 und AM(q) mit 0<q<5 für den Niederschlags-Temperatur-Abfluss-Datensatz (saisonal und nicht saisonale Varianten).
5. Vergleichen Sie die Ergebnisse mit denen aus der Fourieranalyse.
Anwendungsbereich der MA(q)-Modelle
• Test der Autokorrelation: ist nach einem endlichen (kleinen) Lag die ACF nicht mehr signifikant von Null verschieden?• Fehlen Trends und Periodizitäten?• Dann ist eine MA(q)-Modellierung vielversprechend• In den Geowissenschaften: im Wesentlichen keine Anwendung reiner MA(q)-Modelle
ARMA(p,q)-Modelle
Kombination beider Modelltypen:
p
j
q
kikikjiji txtx
1 1
)()(
Auto Regressive Moving Average Modell der Ordnungen p und q
Operatorschreibweise:
)()()()( tBtxB
q
k
kk
p
j
jj
BB
BB
1
1
1)(
1)(
Koeffizienten des ARMA(p,q)-Modells
1...
,...,2,1...1
...
2211
222
21
2211
qk
qk
pkpkk
q
kqqkkk
k
In aller Regel wird das folgende Gleichungssystemnumerisch gelöst:
Explizit: ARMA(1,1)
112
112
1
11111 21
)1)((
Prinzipielle Anforderungen an ARMA(p,q)-Modelle
• Kausalität: hängt „glatt“ von Vorgängern ab, wächst nicht über alle Grenzen• Invertierbarkeit: aus den modellierten Werten soll man das Rauschenzurückrechnen können • Stationarität
Zusammenfassung: ARMA-Modelle
p
jijij
p
jijijii txtxtxtx
11
)(~))(()()(~
p
j
q
kikikjiji txtx
1 1
)()(
AR(p)-Modell
)()()()( tBtxB kompakt:
ARMA(p,q)-Modell
q
kikikitx
1
)( MA(q)-Modell
Kausalität bei ARMA(p,q)-Modellen
pp
zzzz
zzzz
...1)(
...1)(2
21
221
Def.: Charakteristische Polynome des B -Operators
Satz: Haben die beiden Polynome keine gemeinsamenNullstellen und liegen alle Nullstellen vonaußerhalb des Einheitskreises:
)(z
10 kk zz
dann ist der ARMA(p,q)-Prozess kausal.
Motivation zur Kausalität: AR(1)-Modell
( ( ) ) ( )1 B x t i i
iiiBB
Btx
...)1(
)(1
1)( 22
mit formaler Umkehrung:
Divergenz für 1 (d.h. 1/11 z )
Widerspruch zu Kausalität, Stationarität
(aus endlichen Ursachen entwickeln sich unbegrenzte Wirkungen)
Kausalität, ARMA und MA
Satz: Liegt ein kausaler ARMA(p,q)-Prozess vor,kann man auch äquivalent schreiben
0
)(j
jijitx
0 )(
)(
j
jj z
zz
Dabei erhält man die Koeffizienten durch Auswertung von
0jjund es gilt
Ein kausaler ARMA(p,q)-Prozess ist äquivalent zu einem Prozess MA
Invertierbarkeit von ARMA(p,q)-Modellen
Satz: Haben die beiden Polynome keine gemeinsamenNullstellen und liegen alle Nullstellen vonaußerhalb des Einheitskreises:
)(z
10 kk zz
dann ist der ARMA(p,q)-Prozess invertierbar.
Motivation zur Invertierbarkeit: MA(1)-Modell
)())(1( ii tBtx
iiitxBBtx
Bt ...)1(
)(1
1)( 22
mit formaler Umkehrung:
Divergenz für 1 (d.h. 1/11 z )
Widerspruch zu Invertierbarkeit, Stationarität(aus der Zeitreihe kann nicht auf das Rauschen geschlossen werden)
Invertierbarkeit, ARMA und ARSatz: Liegt ein invertierbarer ARMA(p,q)-Prozess vor,kann man auch äquivalent schreiben
0 )(
)(
j
jj z
zz
Dabei erhält man die Koeffizienten durch Auswertung von
0jjund es gilt
Ein invertierbarer ARMA(p,q)-Prozess ist äquivalent zu einem Prozess AR
0
)(j
jiji tx
Stationarität von ARMA(p,q)-Modellen
Satz: Ist ein ARMA(p,q)-Prozess kausal und invertierbar, dann ist er stationär.
Stationaritätstests für ARMA(p,q)-Modelle aus zwei Kriterien
Achtung: Wenn das ARMA-Modell einer Zeitreihestationär ist, muss es die Zeitreihe selber nicht sein!
Zusammenfassung: ARMA-Modelle
p
jijij
p
jijijii txtxtxtx
11
)(~))(()()(~
p
j
q
kikikjiji txtx
1 1
)()(
AR(p)-Modell
)()()()( tBtxB kompakt:
ARMA(p,q)-Modell
q
kikikitx
1
)( MA(q)-Modell