Multivariate Time Series Analysis - Exam

Aufgabe 1)

In dieser Aufgabe beschäftigen wir uns mit der Analyse nichtlinearer Effekte in der Arbeitsmarktpolitik. Hierbei wird untersucht, wie Arbeitsmarktpolitiken wie Mindestlohn und Arbeitslosenversicherung sich nichtlinear auf Arbeitsmarktvariablen auswirken können. Um dies zu analysieren, verwenden wir nichtlineare Modelle wie Threshold-Modelle oder Regime-Wechsel-Modelle. Ein vereinfachtes Modell kann durch folgende Gleichung dargestellt werden:

Modell: \( Y = f(X) + \text{nichtlinearer Term} \)

a)

1. Erläutere den Begriff der nichtlinearen Effekte in der Arbeitsmarktpolitik. Gib ein Beispiel für einen nichtlinearen Effekt und erkläre, weshalb dieser als nichtlinear betrachtet wird.

Lösung:

• Begriff der nichtlinearen Effekte: Nichtlineare Effekte in der Arbeitsmarktpolitik beziehen sich auf Situationen, in denen Veränderungen in einer bestimmten Arbeitsmarktvariable nicht zu proportionalen Veränderungen in einer anderen Variable führen. Dies bedeutet, dass die Beziehung zwischen den Variablen nicht durch eine einfache lineare Funktion (z.B. eine gerade Linie) beschrieben werden kann. Stattdessen können sich die Auswirkungen abhängig vom Ausgangsniveau oder anderen Einflussfaktoren ändern.
• Beispiel: Ein klassisches Beispiel für einen nichtlinearen Effekt ist der Einfluss des Mindestlohns auf die Beschäftigung. In einem bestimmten Bereich kann die Einführung oder Erhöhung des Mindestlohns geringen oder gar positiven Einfluss auf die Beschäftigung haben, da die gesteigerte Kaufkraft der Beschäftigten die Nachfrage nach Gütern und Dienstleistungen und damit das Beschäftigungsniveau erhöht. Ab einem bestimmten Punkt könnte eine weitere Erhöhung des Mindestlohns jedoch zu einem starken Anstieg der Arbeitslosigkeit führen, da Unternehmen die höheren Lohnkosten nicht tragen können und somit Mitarbeiter entlassen. Dieser Effekt kann modelliert werden durch: 1. Im unteren Bereich: \(f(X) = aX + b\) 2. Im mittleren Bereich: \(f(X) = cX^2 + dX + e\) 3. Im oberen Bereich: \(f(X) = gX\) Hierbei zeigt sich, dass bei geringeren Werten des Mindestlohns (X) ein lineares oder leicht positive Verhältnis zur Beschäftigung (Y) bestehen kann, während bei höheren Mindestlöhnen das Verhältnis negativ wird. Dies veranschaulicht die nichtlineare Natur der Effekte.

b)

2. Du hast beschlossen, ein Threshold-Modell zu verwenden, um die Auswirkungen des Mindestlohns auf die Beschäftigung zu untersuchen. Formuliere die allgemeine Form eines Threshold-Modells und beschreibe kurz, wie es zur Identifikation nichtlinearer Effekte verwendet wird.

Lösung:

• Allgemeine Form eines Threshold-Modells: Ein Threshold-Modell unterscheidet zwischen verschiedenen Regimes, basierend auf einem oder mehreren Schwellenwerten (Thresholds), bei denen sich die Beziehung zwischen den Variablen ändern kann. Die allgemeine Form eines Threshold-Modells kann folgendermaßen dargestellt werden:

   Y_{t} = \begin{cases} \beta_{1}X_{t} + \gamma_{1} \cdot Z_{t} + u_{t}, & \text{wenn} \thinspace X_{t} < c \ \beta_{2}X_{t} + \gamma_{2} \cdot Z_{t} + u_{t}, & \text{wenn} \thinspace X_{t} \geq c \end{cases} 

  Hierbei sind:
  • \(Y_{t}\): Die abhängige Variable, z.B. die Beschäftigung.
  • \(X_{t}\): Die unabhängige Variable, z.B. der Mindestlohn.
  • \(\beta_{1}, \beta_{2}\): Die Koeffizienten, die die Beziehung zwischen \(X_{t}\) und \(Y_{t}\) in den unterschiedlichen Regimes beschreiben.
  • \(\gamma_{1}, \gamma_{2}\): Die Koeffizienten für zusätzliche Kontrollvariablen \(Z_{t}\), die in beiden Regimes ebenfalls unterschiedlich sein können.
  • \(c\): Der Schwellenwert, ab dem das Regime wechselt.
  • \(u_{t}\): Der Fehlerterm.
• Identifikation nichtlinearer Effekte: Ein Threshold-Modell identifiziert nichtlineare Effekte, indem es prüft, ob und wie sich die Beziehung zwischen der unabhängigen Variable \(X_{t}\) (z.B. Mindestlohn) und der abhängigen Variable \(Y_{t}\) (z.B. Beschäftigung) ändert, wenn die unabhängige Variable bestimmte Schwellenwerte überschreitet. Durch die Schätzung der Koeffizienten \(\beta_{1}\) und \(\beta_{2}\) in den verschiedenen Regimes kann man feststellen, ob die Wirkung von \(X_{t}\) auf \(Y_{t}\) sich vor und nach dem Überschreiten der Schwelle unterscheidet. Dies ermöglicht es, genauere Aussagen über die verschiedenen Auswirkungen von Politiken wie dem Mindestlohn in unterschiedlichen Bereichen zu treffen und somit spezifische, nichtlineare Effekte zu identifizieren.

c)

3. Angenommen, Du führst ein Regime-Wechsel-Modell zur Untersuchung der Auswirkungen der Arbeitslosenversicherung auf die Arbeitslosigkeit ein. Schreibe die Gleichung eines simplen Regime-Wechsel-Modells auf und erkläre die Methode zur Schätzung der Parameter des Modells.

Lösung:

• Gleichung eines simplen Regime-Wechsel-Modells: Ein Regime-Wechsel-Modell betrachtet die Möglichkeit, dass die Beziehung zwischen den Variablen in verschiedenen Regimes unterschiedlich ist. Eine vereinfachte Form des Modells könnte folgendermaßen aussehen:

   Y_{t} = \begin{cases} \alpha_{1} + \beta_{1}X_{t} + u_{t}^{(1)}, & \text{wenn} \thinspace S_{t} = 1 \ \alpha_{2} + \beta_{2}X_{t} + u_{t}^{(2)}, & \text{wenn} \thinspace S_{t} = 2 \end{cases} 

  Hierbei sind:
  • \(Y_{t}\): Die abhängige Variable, z.B. die Arbeitslosigkeit.
  • \(X_{t}\): Die unabhängige Variable, z.B. die Arbeitslosenversicherung.
  • \(S_{t}\): Ein Indikator für das Regime, in dem sich die Wirtschaft zu Zeitpunkt \(t\) befindet.
  • \(\alpha_{1}, \alpha_{2}\): Die Konstanten in den verschiedenen Regimes.
  • \(\beta_{1}, \beta_{2}\): Die Koeffizienten, die die Beziehung zwischen \(X_{t}\) und \(Y_{t}\) in den verschiedenen Regimes beschreiben.
  • \(u_{t}^{(1)}, u_{t}^{(2)}\): Die Fehlerterme in den jeweiligen Regimes.
• Methode zur Schätzung der Parameter: Die Schätzung der Parameter in einem Regime-Wechsel-Modell erfolgt meist durch Maximum-Likelihood-Schätzung (MLE). Hier sind die Schritte, wie man diese Methode anwenden kann:
  • Modellannahmen aufstellen: Nehme an, dass die Übergänge zwischen den Regimes durch einen stochastischen Prozess, wie etwa eine Markov-Kette, bestimmt werden.
  • Likelihood-Funktion formulieren: Formuliere die Likelihood-Funktion, die die Wahrscheinlichkeit der beobachteten Daten gegeben die Parameter ausdrückt. Jedes Regime erhält eine eigene Likelihood-Funktion.

     L(\theta) = \prod_{t=1}^{T} \sum_{j=1}^{2} P(Y_{t} | S_{t} = j, \theta) P(S_{t} = j | S_{t-1}, \theta)  \theta = (\alpha_{1}, \alpha_{2}, \beta_{1}, \beta_{2}, \text{Transition-Probabilities}) 

  • Likelihood maximieren: Schätze die Parameter so, dass die Likelihood-Funktion maximiert wird, d.h. die beobachteten Daten am besten erklärt werden. Dies geschieht meist durch numerische Optimierungsmethoden wie den EM-Algorithmus (Expectation-Maximization).
  • Identifikation der Regimes: Weise die Beobachtungen anhand der geschätzten Wahrscheinlichkeiten den Regimes zu. Dies kann durch die Berechnung der Posteriorwahrscheinlichkeit für jede Beobachtung erfolgen.
  • Modellvalidierung: Überprüfe, ob das geschätzte Modell die Daten angemessen beschreibt. Dies kann durch Gütemaße wie das Akaike-Informationskriterium (AIC), den Bayes'schen Informationskriterium (BIC) oder Tests wie den Likelihood-Ratio-Test geschehen.

d)

4. Implementiere ein einfaches Regime-Wechsel-Modell in Python, um die nichtlineare Wirkung der Arbeitslosenversicherung auf die Arbeitslosigkeit zu schätzen. Nutze dabei eine fiktive Datenreihe. Zeige den Python-Code und erkläre die Ergebnisse.

'import numpy as npimport pandas as pdfrom statsmodels.tsa.regime_switching.markov_switching import MarkovSwitching# Fiktive Daten generieren np.random.seed(123)data = pd.Series(np.random.randn(100))# Regime-Wechsel-Modell implementierenmodel = MarkovSwitching(data, k_regimes=2, trend='c', exog=None)result = model.fit()# Ergebnisse anzeigenprint(result.summary())'

Lösung:

• Implementierung eines einfachen Regime-Wechsel-Modells in Python: Hier ist der Python-Code, um ein Regime-Wechsel-Modell zur Schätzung der nichtlinearen Wirkung der Arbeitslosenversicherung auf die Arbeitslosigkeit zu implementieren. Dazu verwenden wir fiktive Daten:

   import numpy as np import pandas as pd from statsmodels.tsa.regime_switching.markov_switching import MarkovSwitching   # Fiktive Daten generieren np.random.seed(123) daten_laenge = 100 # Exogene Variable (z.B. Arbeitslosenversicherung) exogen = pd.Series(np.random.normal(loc=0.5, scale=2, size=daten_laenge)) # Abhängige Variable (z.B. Arbeitslosigkeit) wird als Funktion von exogen und einem weißen Rauschen generiert endogen = pd.Series(0.3 * exogen + np.random.normal(loc=0, scale=1, size=daten_laenge))   # Regime-Wechsel-Modell implementieren model = MarkovSwitching(endogen, k_regimes=2, exog=exogen) result = model.fit()   # Ergebnisse anzeigen print(result.summary()) 

• Erklärung der Ergebnisse: Nachdem das Modell trainiert wurde, erhalten wir eine Zusammenfassung der Ergebnisse, die ungefähr wie folgt aussehen könnte:

   Markov Switching Model Results ================================== Dep. Variable: y No. Observations: 100 Model: Markov Switching No. of states: 2 Date: ... Time: ... AIC ... BIC ... HQIC ... Observations per state: [50, 50] State parameters ------------- const 1 0.1243 (0.532) const 2 -0.5320 (0.123) autoreg 1 0.543 (0.123) autoreg 2 -0.324 (0.092) Markov transition matrix ----------------------- p[0->0] ... p[0->1] ... p[1->0] ... p[1->1] ... 

  Hier sind einige wichtige Punkte:
  • Dep. Variable: Dies gibt die abhängige Variable im Modell an, in diesem Fall die Arbeitslosigkeit.
  • No. of states: Dies ist die Anzahl der Regimes, die im Modell verwendet wurden, in diesem Fall zwei.
  • const 1, const 2: Dies sind die Konstanten der zwei Regimes.
  • autoreg 1, autoreg 2: Dies sind die Koeffizienten der unabhängigen Variable (Arbeitslosenversicherung) in den zwei Regimes.
  • Markov transition matrix: Dies ist die Übergangsmatrix, die die Übergangswahrscheinlichkeiten zwischen den Regimes angibt.
  Aus diesen Ergebnissen kann man Schlussfolgerungen über die nichtlineare Wirkung der Arbeitslosenversicherung auf die Arbeitslosigkeit ziehen, abhängig davon, in welchem Regime sich die Wirtschaft befindet. Wenn die Koeffizienten (autoreg 1 und autoreg 2) signifikant unterschiedlich sind, kann dies anzeigen, dass die Auswirkungen der Arbeitslosenversicherung in verschiedenen wirtschaftlichen Regimes anders sind.

Aufgabe 2)

Angenommen, Du hast die Zeitreihendaten einer ökonomischen Variable vorliegen, die zyklische Schwankungen über mehrere Jahre hinweg zeigt. Es soll untersucht werden, ob nichtlineare Methoden signifikant bessere Vorhersagen liefern können als lineare Modelle. Betrachte hierfür Ansätze wie Kernel-Schätzung, Generalisierte Additive Modelle (GAMs) und Neuronale Netze. Analysiere und vergleiche die Güte der Modelle.

a)

Erkläre den Nadaraya-Watson-Schätzer und zeige, wie er auf die gegebene Zeitreihe angewendet werden kann. Berechne die Schätzergebnisse für einen ausgewählten Abschnitt der Zeitreihe und interpretiere die Ergebnisse.

Lösung:

Der Nadaraya-Watson-Schätzer ist eine Methode zur nichtparametrischen Regression, die verwendet wird, um den Zusammenhang zwischen einer unabhängigen Variable und einer abhängigen Variable zu modellieren. Der Schätzer basiert auf der Idee der Kernel-Dichte-Schätzung und kann zur Glättung von Zeitreihendaten verwendet werden, um Trends und Muster zu identifizieren.

Die Formel für den Nadaraya-Watson-Schätzer für einen gegebenen Punkt x lautet:

\[\tilde{y}(x) = \frac{\sum_{i=1}^{n} K(x - x_i) y_i}{\sum_{i=1}^{n} K(x - x_i)}\]

Hierbei ist \(K(x - x_i)\) der Kernel, der die Gewichte für die Datenpunkte \(y_i\) bestimmt.

• Wähle einen geeigneten Kernel. Häufig verwendete Kerne sind der Gauß-Kernel oder der Epanechnikov-Kernel.
• Bestimme ein Bandbreitenparameter h, das die Glättung der Zeitreihe steuert.
• Berechne den geschätzten Wert für jeden Zeitpunkt in der Zeitreihe unter Verwendung der oben genannten Formel.

Angenommen, wir haben die folgenden Zeitreihendaten:

Wir wählen den Gauß-Kernel:

\[K(u) = \frac{1}{\sqrt{2 \pi}} e^{-\frac{u^2}{2}}\]

Wähle die Bandbreite h = 1. Berechne den geschätzten Wert für t = 3:

\[\tilde{y}(3) = \frac{e^{-0} \times 4 + e^{-1} \times 5 + e^{-4} \times 3 + e^{-1} \times 6 + e^{-4} \times 8}{e^{-0} + e^{-1} + e^{-4} + e^{-1} + e^{-4}}\]

Nach der Berechnung der Exponenten und der Division durch die Summe der Gewichte erhalten wir:

\[\tilde{y}(3) \approx \frac{4 + 1.84 + 0.054 + 1.84 + 0.054}{1 + 0.368 + 0.018 + 0.368 + 0.018} \approx \frac{7.788}{1.772} \approx 4.39\]

• Der geschätzte Wert (4.39) für t = 3 liegt nahe an der tatsächlichen Beobachtung (4).
• Durch die Glättung mit dem Nadaraya-Watson-Schätzer werden extreme Schwankungen gemildert und ein klarer Trend der Zeitreihe angezeigt.
• Diese Methode ist besonders nützlich, wenn die Daten stark schwanken und man den zugrunde liegenden Trend besser verstehen möchte.

b)

Setze ein Generalisiertes Additives Modell (GAM) für die Zeitreihe auf. Implementiere sowohl lineare als auch nichtlineare Komponenten. Schätze das Modell und beschreibe die wesentlichen Ergebnisse. Berechne die Modellgüte mit den gegebenen Metriken MSE und AIC. Vergleiche die Ergebnisse mit denen des Nadaraya-Watson-Schätzers.

Lösung:

Ein Generalisiertes Additives Modell (GAM) ist ein flexibles Regressionsmodell, das es ermöglicht, sowohl lineare als auch nichtlineare Beziehungen zwischen den unabhängigen Variablen und der abhängigen Variable zu modellieren. GAMs kombinieren lineare und sich addierende nichtlineare Funktionen (Splines), sodass sie besonders geeignet sind, komplexe, nichtlineare Muster in den Daten zu erfassen.

• Importiere die erforderlichen Bibliotheken.
• Bereite die Daten vor und trenne sie in Trainings- und Testdatensätze.
• Setze das GAM-Modell auf, wobei lineare und nichtlineare Komponenten berücksichtigt werden.
• Schätze das Modell und interpretiere die Ergebnisse.
• Berechne die Modellgüte mit den Metriken MSE und AIC und vergleiche sie mit dem Nadaraya-Watson-Schätzer.

Wir verwenden Python und die Bibliothek pygam, um ein GAM für unsere Zeitreihe zu erstellen. Angenommen, die Zeitreihendaten bestehen aus zwei Arrays: time (Zeitpunkte) und y (Beobachtungen).

import numpy as npimport pandas as pdfrom pygam import LinearGAM, s, ffrom sklearn.metrics import mean_squared_errorimport statsmodels.api as sm# Beispiel-Datentime = np.array([1, 2, 3, 4, 5])y = np.array([3, 5, 4, 6, 8])# Daten in ein DataFrame umwandelndata = pd.DataFrame({'time': time, 'y': y})# GAM-Modell mit linearer und nichtlinearer Komponente erstellengam = LinearGAM(s(0) + f(1)).fit(time, y)# Vorhersagen treffeny_pred = gam.predict(time)# Modellgüte berechnen - MSEmse = mean_squared_error(y, y_pred)# Modellgüte berechnen - AICaic = gam.statistics_['AIC']# Ergebnisse anzeigenprint(f'MSE des GAM: {mse}')print(f'AIC des GAM: {aic}')

Ergebnisse:

• Mean Squared Error (MSE): Der MSE misst die durchschnittliche quadratische Abweichung der vorhergesagten Werte von den tatsächlichen Werten. Ein niedrigerer MSE-Wert zeigt eine bessere Modellanpassung.
• Akaike Information Criterion (AIC): Der AIC ist ein Maß für die Modellgüte, das die Komplexität des Modells bestraft. Ein niedrigerer AIC-Wert deutet auf ein besseres Modell hin.

• Vergleiche die berechneten MSE- und AIC-Werte des GAM mit denen des Nadaraya-Watson-Schätzers.
• Analysiere, welches Modell eine bessere Vorhersagegenauigkeit und eine bessere Anpassung an die Zeitreihendaten bietet.
• Berücksichtige, dass GAMs in der Regel flexibler sind und komplexere Muster erkennen können, was zu besseren Ergebnissen führen kann.

c)

Erstelle ein neuronales Netz mit Long Short-Term Memory (LSTM) Architektur zur Vorhersage der Zeitreihe. Trainiere das Modell und bewerte dessen Leistung mit den Metriken MAE und BIC. Diskutiere die Vor- und Nachteile von LSTM gegenüber den zuvor erwähnten Methoden.

Lösung:

Eine Long Short-Term Memory (LSTM) Architektur ist eine spezielle Art von rekurrentem neuronalen Netz (RNN), die besonders gut für die Vorhersage von Zeitreihendaten geeignet ist. LSTM-Netze können sich an Langzeitabhängigkeiten in Daten erinnern und sind daher in der Lage, komplexe Muster in zeitlichen Daten zu erfassen.

Die folgenden Schritte zeigen, wie man ein LSTM zur Vorhersage einer Zeitreihe erstellen und trainieren kann:

1. Datenvorverarbeitung und Feature-Skalierung
2. Erstellen und Kompilieren des LSTM-Modells
3. Modelltraining
4. Bewertung der Modelle mit Metriken wie MAE und BIC

Schritte zur Implementierung eines LSTM-Modells:

import numpy as npimport pandas as pdimport tensorflow as tffrom sklearn.preprocessing import MinMaxScalerfrom sklearn.metrics import mean_absolute_errorimport statsmodels.api as sm# Zufällige Daten für ein Beispieltime = np.array([1, 2, 3, 4, 5, 6, 7, 8, 9, 10])y = np.array([3, 5, 4, 6, 8, 7, 7, 9, 10, 12])# Feature-Skalierungscaler = MinMaxScaler(feature_range=(0, 1))y_scaled = scaler.fit_transform(y.reshape(-1, 1))# Daten in sequenzielle Daten vorbereitendef create_sequences(data, seq_length):   X, y = [], []   for i in range(len(data) - seq_length):       X.append(data[i:i+seq_length])       y.append(data[i+seq_length])   return np.array(X), np.array(y)seq_length = 3X, y_seq = create_sequences(y_scaled, seq_length)# Daten aufteilenX_train, y_train = X[:7], y_seq[:7]X_test, y_test = X[7:], y_seq[7:]# LSTM-Modell erstellenmodel = tf.keras.Sequential([   tf.keras.layers.LSTM(50, return_sequences=True, input_shape=(seq_length, 1)),   tf.keras.layers.LSTM(50),   tf.keras.layers.Dense(1)])# Modell kompilierenmodel.compile(optimizer='adam', loss='mean_squared_error')# Modell trainierenmodel.fit(X_train, y_train, epochs=200, batch_size=1, verbose=1)# Vorhersagen treffeny_pred = model.predict(X_test)y_pred_original = scaler.inverse_transform(y_pred)  # Rücktransformationy_test_original = scaler.inverse_transform(y_test.reshape(-1, 1))# Modellbewertung - MAEmae = mean_absolute_error(y_test_original, y_pred_original)# Modellbewertung - BICn = len(y_test_original)  # Anzahl der Datenpunktep = model.count_params()  # Anzahl der Modellparameterrss = np.sum((y_test_original - y_pred_original)**2)  # Residual Sum of Squaresbic = n * np.log(rss/n) + p * np.log(n)print(f'BIC des LSTM: {bic}')

Ergebnisse und Interpretation:

• Mean Absolute Error (MAE): MAE misst den durchschnittlichen absoluten Fehler zwischen den vorhergesagten Werten und den tatsächlichen Werten. Ein niedrigerer MAE-Wert zeigt eine bessere Modellanpassung.
• Bayesian Information Criterion (BIC): Der BIC ist ein Maß für die Modellgüte, das die Komplexität des Modells bestraft. Ein niedrigerer BIC-Wert deutet auf ein effizienteres Modell hin.

• Vorteile:
  • LSTM-Modelle können sich an Langzeitabhängigkeiten und vergangene Informationen erinnern, was besonders wichtig für zeitliche Daten ist.
  • Sie sind in der Lage, komplexere und nichtlineare Beziehungen zu modellieren als einfache lineare Modelle oder GAMs.
• Nachteile:
  • LSTM-Modelle sind rechnerisch intensiver und erfordern mehr Rechenleistung und Trainingszeit.
  • Sie erfordern eine sorgfältige Hyperparameterabstimmung und sind anfälliger für Überanpassung, insbesondere bei kleinen Datensätzen.

Aufgabe 3)

Betrachten Sie ein VAR(2)-Modell, das die Interaktion zwischen zwei makroökonomischen Variablen in einer Volkswirtschaft beschreibt. Um diese Beziehungen zu modellieren, möchten Sie Übergänge in den Daten berücksichtigen, die durch strukturelle Brüche entstehen könnten. Um diese Übergänge zu glätten und stabile Schätzungen zu erhalten, können verschiedene mathematische und statistische Techniken angewendet werden.

a)

Nutze die Spline-Glättung, um die kontinuierliche Schätzung von nichtlinearen Übergängen in Deinem VAR(2)-Modell durchzuführen. Gegeben sind die Datenpunkte (Y_t), wobei Y_t die Werte der beiden Variablen zum Zeitpunkt t sind. Beschreibe den Prozess der Anwendung von Spline-Glättung, um die Glättung der Übergänge zu erreichen. Welche Vorteile bietet die Anwendung der Spline-Glättung im Vergleich zu einer linearen Schätzung der Übergänge?

Lösung:

Spline-Glättung zur kontinuierlichen Schätzung von nichtlinearen Übergängen im VAR(2)-Modell

Die Spline-Glättung ist eine leistungsfähige Methode, die in der Analyse von Zeitreihendaten verwendet wird, um glatte Schätzungen von nichtlinearen Übergängen zu erhalten, insbesondere wenn Daten strukturelle Brüche oder nichtlineare Trends aufweisen. Um die Spline-Glättung auf Dein VAR(2)-Modell anzuwenden, folge diesen Schritten:

• Datensammlung und Vorverarbeitung: Gegeben sind die Datenpunkte (Y_t), wobei Y_t die Werte der beiden Variablen zum Zeitpunkt t darstellt. Diese Daten müssen zunächst sortiert und aufbereitet werden.
• Modelldesign: Die Splines können für jede der beiden makroökonomischen Variablen separat angepasst werden. Dabei wählst Du eine geeignete Spline-Funktion, welche die Datenpunkte gut repräsentiert. Üblicherweise sind Kubische Splines eine beliebte Wahl.
• Knotenwahl: Bestimme die Position der Knoten, welche die Stellen markieren, an denen sich die lokalen Polynomfunktionen treffen. Diese können gleichmäßig über den Datenbereich verteilt oder an Stellen höherer Variabilität konzentriert sein.
• Schätzung der Spline-Koeffizienten: Verwende mathematische Optimierungstechniken, um die Koeffizienten der Spline-Funktionen so zu schätzen, dass die Summe der quadratischen Abweichungen zwischen den tatsächlichen Datenpunkten Y_t und den durch die Splines vorhergesagten Werten minimiert wird. Die Methode der kleinsten Quadrate (Least Squares) ist hierfür verbreitet.
• Evaluierung und Anpassung: Überprüfe das modellierte Verhalten der Splines und passe bei Bedarf die Anzahl und Position der Knoten sowie die Glättungsparameter an, um eine bestmögliche Passung zu erzielen.
• Integration in das VAR(2)-Modell: Integriere die geglätteten Werte in die Schätzung des VAR(2)-Modells, um die Beziehungen zwischen den beiden makroökonomischen Variablen und deren dynamische Interaktionen zu analysieren.

Vorteile der Spline-Glättung im Vergleich zur linearen Schätzung:

• Flexibilität: Im Gegensatz zu einfachen linearen Schätzungen kann die Spline-Glättung komplexe nichtlineare Beziehungen modellieren. Dies ist besonders nützlich bei der Erfassung von plötzliche Veränderungen und Übergängen in den Daten.
• Glättungseigenschaften: Durch die Anpassung der Glättungsparameter kann die Spline-Glättung sowohl glatte als auch stark variierende Übergänge modellieren, was zu stabileren und zuverlässigeren Schätzungen führt.
• Lokalität: Splines haben den Vorteil, dass sie lokal an die Daten angepasst werden können, ohne dass die gesamte Funktion durch globale Änderungen beeinflusst wird. Dadurch sind sie besser dafür geeignet, strukturelle Brüche zu erfassen und zu modellieren.
• Interpretierbarkeit: Die Verwendung von Splines ermöglicht eine visuelle und intuitive Interpretation der Modellierungen und der Übergänge in den Daten.

c)

Du vermutest, dass ein struktureller Bruch in den Daten vorliegt. Vorschlag einen strukturellen Bruchtest, um signifikante Übergänge in dem VAR(2)-Modell zu identifizieren. Beschreibe den Test und seine Anwendung, und erkläre, wie Du mithilfe des Tests und Regularisierungsmethoden wie Ridge und Lasso stabile Schätzungen trotz der Brüche erreichen kannst.

Lösung:

Erkennung und Behandlung eines strukturellen Bruchs im VAR(2)-Modell

Ein struktureller Bruch in den Daten eines VAR(2)-Modells kann erhebliche Auswirkungen auf die Schätzungen und Prognosen haben. Um signifikante Übergänge zu identifizieren und stabile Schätzungen zu erhalten, wird ein struktureller Bruchtest und die Anwendung von Regularisierungsmethoden vorgeschlagen.

Vorschlag für einen strukturellen Bruchtest: Chow-Test

• Beschreibung: Der Chow-Test ist ein statistischer Test zur Identifizierung von strukturellen Brüchen. Er prüft, ob es signifikante Unterschiede in den Regressionskoeffizienten zwischen verschiedenen Zeitperioden gibt.
• Anwendung: Der Test vergleicht die Residual-Summen der Quadrate (RSS) des Modells vor und nach dem vermuteten Bruchpunkt sowie für die gesamte Stichprobe.Schritte:

1. Schätze das VAR(2)-Modell für den gesamten Zeitraum und berechne die Residual-Summe der Quadrate (RSS_g).
2. Teile die Daten in zwei Perioden auf: vor und nach dem vermuteten Bruchpunkt. Schätze das Modell separat für beide Perioden und berechne die RSS für beide Perioden (RSS_1 und RSS_2).
3. Berechne die Chow-Teststatistik:

   Chow-Statistik = \frac{(RSS_g - (RSS_1 + RSS_2)) / k}{(RSS_1 + RSS_2) / (n_1 + n_2 - 2k)}

   Hierbei sind:
   • RSS_g: Gesamtresiduum der Quadrate des gesamten Modells
   • RSS_1: Residuum der Quadrate für die erste Periode
   • RSS_2: Residuum der Quadrate für die zweite Periode
   • k: Anzahl der geschätzten Parameter
   • n_1 und n_2: Anzahl der Beobachtungen in den jeweiligen Perioden
4. Hypothese: Die Nullhypothese (H_0) besagt, dass es keinen strukturellen Bruch gibt (d.h., die Regressionskoeffizienten sind gleich). Die Alternativhypothese (H_1) besagt, dass ein struktureller Bruch vorliegt (d.h., die Regressionskoeffizienten unterscheiden sich).

Anwendung von Regularisierungsmethoden: Ridge und Lasso

Nach der Identifikation eines strukturellen Bruchs durch den Chow-Test können Regularisierungsmethoden wie Ridge und Lasso Regression verwendet werden, um stabile Schätzungen zu erzielen:

• Ridge Regression: Die Ridge Regression fügt einen L2-Strafterm hinzu, der große Parameterwerte bestraft und so die multikollinearen Effekte reduziert.

  Loss_{Ridge} = RSS + \lambda \sum_{j=1}^{p} \beta_j^2

• Lasso Regression: Die Lasso Regression fügt einen L1-Strafterm hinzu, der einige Parameter auf Null setzen kann und so ein sparsameres Modell erzeugt.

  Loss_{Lasso} = RSS + \lambda \sum_{j=1}^{p} |\beta_j|

• Anwendung auf das VAR(2)-Modell: Nachdem ein struktureller Bruch identifiziert wurde, wende Ridge oder Lasso Regression auf die VAR(2)-Modelle für die separaten Zeitperioden an. Diese Methoden helfen, stabile Schätzungen zu erzielen und mögliche Überanpassungen zu vermeiden.

Zusammenfassung

Durch die Verwendung des Chow-Tests zur Identifikation von strukturellen Brüchen und die anschließende Anwendung von Regularisierungsmethoden wie Ridge und Lasso kann das VAR(2)-Modell angepasst und stabilisiert werden. Dies ermöglicht präzisere und robustere Schätzungen trotz möglicher struktureller Brüche in den Daten.

Aufgabe 4)

Betrachte ein multivariates Zeitreihenmodell, das in der Lage ist, zwischen zwei Regimen - Rezession und Expansion - zu wechseln. Dabei nutzen wir ein Markov-Switching-Modell. Das Ziel ist es, die Auswirkungen dieser Regimewechsel auf makroökonomische Variablen zu analysieren und Parameter zu schätzen, die sich in Abhängigkeit vom Regime ändern. Das theoretische Modell, das wir verwenden, lautet:

• Modell:

  \( y_t = x_t' \beta_{s_t} + \epsilon_t \) , wobei \( s_t \) das Regime darstellt.

• Regimewechsel: Nutzung von Markov-Switching-Modellen zur Unterscheidung von Rezession und Expansion.
• Schätzung: Parameter schätzen, die sich in Abhängigkeit vom Regime ändern.
• Anwendungen: Makroökonomische Modelle, Finanzmarktanalysen.
• Vorteil: Erhöhte Modellgenauigkeit durch Erfassung nicht-linearer Zusammenhänge.

a)

Zeige detailliert, wie das Markov-Switching-Modell mathematisch formuliert wird. Formuliere die Übergangswahrscheinlichkeiten zwischen den Regimen und wie die Wahrscheinlichkeiten in eine Übergangsmatrix eingebettet werden.

Lösung:

Markov-Switching-Modell mathematisch formulieren

• Modellformulierung:

  Der Grundgedanke des Markov-Switching-Modells ist es, den Zustand eines Systems (wie zum Beispiel das Wirtschaftswachstum) anhand zweier oder mehrerer Regime (z.B. Rezession und Expansion) zu beschreiben, die durch einen Markov-Prozess gesteuert werden. Das grundlegende Modell lautet:

  \( y_t = x_t' \beta_{s_t} + \epsilon_t \)

  wobei \( s_t \) den Regimezustand zu Zeitpunkt \( t \) darstellt. \( x_t' \) ist ein Vektor von Kovariablen, \( \beta_{s_t} \) sind die Regime-spezifischen Koeffizienten, und \( \epsilon_t \) ist ein Fehlerterm.

• Regimewechsel:

  Die Regimewechsel werden durch einen Markov-Prozess beschrieben. Ein Markov-Prozess hat die Eigenschaft, dass die Wahrscheinlichkeit, von einem Zustand in den nächsten Zustand zu wechseln, nur vom aktuellen Zustand abhängt und nicht von der vergangenen Geschichte. Mit anderen Worten:

  \[ P(s_t|s_{t-1}, s_{t-2},...) = P(s_t|s_{t-1}) \]

• Übergangsmatrix:

  Die Übergangswahrscheinlichkeiten zwischen den Regimen werden in eine Übergangsmatrix eingebettet. Nehmen wir an, es gibt zwei Regime: Rezession (R) und Expansion (E). Die Übergangsmatrix könnte dann wie folgt aussehen:

  \[ P = \begin{pmatrix} p_{RR} & p_{RE} \ p_{ER} & p_{EE} \end{pmatrix} \]

  Hierbei ist \( p_{ij} \) die Wahrscheinlichkeit, von Regime \( i \) zu Regime \( j \) zu wechseln. Für die zwei Regime Rezession (R) und Expansion (E) gelten entsprechend:

  • \( p_{RR} \): Wahrscheinlichkeit, in einer Rezession zu bleiben
  • \( p_{RE} \): Wahrscheinlichkeit, von einer Rezession in eine Expansion zu wechseln
  • \( p_{ER} \): Wahrscheinlichkeit, von einer Expansion in eine Rezession zu wechseln
  • \( p_{EE} \): Wahrscheinlichkeit, in einer Expansion zu bleiben

  Die Summe jeder Zeile der Übergangsmatrix ist 1, das heißt:

  \[ p_{RR} + p_{RE} = 1 \]\[ p_{ER} + p_{EE} = 1 \]

Zusammenfassung:

• Das Markov-Switching-Modell ermöglicht es, makroökonomische Variablen detaillierter zu analysieren, indem zwischen verschiedenen Regimen (z.B. Rezession und Expansion) unterschieden wird.
• Die Übergangswahrscheinlichkeiten zwischen den Regimen werden durch eine Markov-Prozess-Modellierung beschrieben und in eine Übergangsmatrix eingebettet.
• Die Parameter des Modells ändern sich je nach Regime, um eine genauere Modellierung nicht-linearer Zusammenhänge zu ermöglichen.

b)

Erkläre den Schätzprozess der Parameter \( \beta_{s_t} \) für jedes Regime. Gehe dabei auch auf die Methoden der Maximum-Likelihood-Schätzung ein.

Lösung:

Schätzprozess der Parameter \( \beta_{s_t} \) für jedes Regime

• Überblick:

  Um die Parameter \( \beta_{s_t} \) für jedes Regime (z.B. Rezession und Expansion) zu schätzen, verwendet man typischerweise Methoden der Maximum-Likelihood-Schätzung (MLE). Der grundlegende Prozess umfasst die Schätzung der Wahrscheinlichkeit, dass die beobachteten Daten aus dem Modell mit bestimmten Parametern stammen, und die Anpassung dieser Parameter, um diese Wahrscheinlichkeit zu maximieren.

• Maximum-Likelihood-Schätzung:

  Der MLE-Ansatz beginnt mit der Definition der Likelihood-Funktion, die die Wahrscheinlichkeit der Beobachtungsdaten als Funktion der unbekannten Parameter darstellt. Für das Markov-Switching-Modell wird die Likelihood als Produkt der Wahrscheinlichkeiten für jede Beobachtung gegeben die Regimewechsel modelliert haben, berechnet. Mathematisch formuliert sich die Likelihood-Funktion wie folgt:

\( y_t = x_t' \beta_{s_t} + \epsilon_t \)

\text {Die Fehlerterme werden normalverteilt angenommen: \( \epsilon_t \sim \mathcal{N}(0, \sigma^2) \)}

\text {Die bedingte Likelihood-Funktion für die Beobachtungen \( y_t \), gegeben den Regimeständen \( s_t \), lautet:}

\[ L(y | x, \beta, \sigma, s) = \prod_{t=1}^{T} \mathcal{N}(y_t | x_t' \beta_{s_t}, \sigma^2) \]

Hierbei ist \( \mathcal{N}(y_t | x_t' \beta_{s_t}, \sigma^2) \) die Normalverteilung mit Mittelwert \( x_t' \beta_{s_t} \) und Varianz \( \sigma^2 \).

• Übergangsmatrix:

  Die Log-Likelihood-Funktion wird dann durch Summierung der Logarithmen der Einzelwahrscheinlichkeiten berechnet:

  \[ \log L(y | x, \beta, \sigma, P) = \sum_{t=1}^{T} \log \mathcal{N}(y_t | x_t' \beta_{s_t}, \sigma^2) + \sum_{t=2}^{T} \log P(s_t | s_{t-1}) \]

• Optimierung:

  Zur Maximierung der Log-Likelihood-Funktion wird ein numerisches Optimierungsverfahren wie z.B. der EM-Algorithmus (Expectation-Maximization) eingesetzt:

• E-Schritt: Berechnung der erwarteten Log-Likelihood unter Verwendung aktueller Schätzungen der Parameter.
• M-Schritt: Anpassung der Parameter \( \beta_{s_t} \) und Übergangswahrscheinlichkeiten \( P(s_t | s_{t-1}) \) durch Maximierung der erwarteten Log-Likelihood.

Zusammenfassung:

• Zur Schätzung der Parameter \( \beta_{s_t} \) in einem Markov-Switching-Modell werden Maximum-Likelihood-Verfahren eingesetzt.
• Durch die Definition der Likelihood-Funktion und ihre Maximierung mittels numerischer Methoden (z.B. EM-Algorithmus) werden die Parameter geschätzt.
• Diese Schätzungen tragen zur genaueren Modellierung und Vorhersagen makroökonomischer Variablen bei, indem sie verschiedene Regimes berücksichtigen.

c)

Angenommen, Du hast reale makroökonomische Daten zu BIP-Wachstum und Arbeitslosenquote vorliegen: Demonstriere anhand dieser Daten, wie Du ein Markov-Switching-Modell implementierst. Nutze relevante Software und präsentiere die Ergebnisse Deiner Analyse. Kommentiere, wie gut das Modell die unterschiedlichen Wirtschaftsphasen erfasst.

Lösung:

Implementierung eines Markov-Switching-Modells mit realen makroökonomischen Daten

In diesem Beispiel verwenden wir reale Daten zu BIP-Wachstum und Arbeitslosenquote, um ein Markov-Switching-Modell zu implementieren. Wir verwenden die Python-Bibliothek `statsmodels`, die eine umfassende Unterstützung für Zeitreihenanalysen bietet, einschließlich Markov-Switching-Modelle.

Schritte zur Implementierung:

• Datenimport und Vorverarbeitung: Zuerst importieren wir die notwendigen Bibliotheken und laden die Daten.
• Modellierung: Dann definieren wir das Markov-Switching-Modell.
• Schätzung: Wir schätzen die Parameter des Modells.
• Analyse: Schließlich analysieren wir die Ergebnisse und kommentieren die Modellleistung.

Schritt 1: Datenimport und Vorverarbeitung

import pandas as pdimport numpy as npimport statsmodels.api as smimport matplotlib.pyplot as plt# Beispielhafte Daten laden (hier: CSV-Datei mit BIP-Wachstum und Arbeitslosenquote)data = pd.read_csv('makro_daten.csv')# Daten anzeigendata.head()

Schritt 2: Modellierung

# Variablen definiereny = data['BIP_Wachstum']X = sm.add_constant(data['Arbeitslosenquote'])# Markov-Switching-Modell definierenmod = sm.tsa.MarkovRegression(y, k_regimes=2, exog=X, switching_variance=True)

Schritt 3: Schätzung

# Parameter schätzenres = mod.fit()# Ergebnisse anzeigenprint(res.summary())

Schritt 4: Analyse und Interpretation

# Wahrscheinlichkeiten der Regimesmoothed_probs = res.smoothed_marginal_probabilities[0]# Ergebnisse plottenfig, ax = plt.subplots(figsize=(10, 8))ax.plot(data['Datum'], y, label='BIP-Wachstum')ax.plot(data['Datum'], smoothed_probs, label='Rezessionswahrscheinlichkeit')plt.legend()plt.show()

• Im Beispiel geben wir die Wahrscheinlichkeiten der Regime über die Zeiträume hinweg aus. Dies ermöglicht uns zu sehen, wann das Modell eine Rezession oder Expansion identifiziert hat.
• Die Qualität des Modells und seine Genauigkeit bei der Erfassung der Wirtschaftsphasen kann durch den Vergleich dieser Wahrscheinlichkeiten mit bekannten Phasen (z.B. durch visuelle Analyse oder bekannte ökonomische Ereignisse) beurteilt werden.

Zusammenfassung

• Ergebnisse: Das Markov-Switching-Modell hilft, zwischen Rezession und Expansion zu unterscheiden. Die geschätzten Parameter und Wahrscheinlichkeiten bieten Einblicke in die wirtschaftlichen Bedingungen.
• Bewertung: Durch visuelle Analyse der Ergebnisse und den Vergleich mit historischen Daten können wir beurteilen, wie genau das Modell unterschiedliche Wirtschaftsphasen erfasst hat.