Introduction to Econometrics - Exam

Aufgabe 1)

Gegeben sei das lineare Regressionsmodell:

\[y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n + \epsilon\]

Dieses Modell wird verwendet, um den Zusammenhang zwischen einer abhängigen Variable \(y\) und mehreren unabhängigen Variablen \(x_1, x_2, \, \ldots\, x_n\) zu quantifizieren. Die Störgröße \(\epsilon\) repräsentiert unbeobachtete Faktoren, die \(y\) beeinflussen. Die Parameter \(\beta_0, \beta_1, \beta_2, \, \ldots\, \beta_n\) sind die Regressionskoeffizienten.

c)

3. Goodness of Fit: Eine wichtige Bewertung eines Regressionsmodells ist das Bestimmtheitsmaß \(R^2\). Erkläre, was \(R^2\) in diesem Zusammenhang darstellt, und was ein \(R^2\) von 0.85 aussagen würde. Wie wird \(R^2\) berechnet?

Lösung:

Das Bestimmtheitsmaß, oft als \(R^2\) bezeichnet, ist ein statistisches Maß, das die Güte der Anpassung eines Regressionsmodells beschreibt. Es zeigt an, welcher Anteil der Varianz der abhängigen Variable (\(y\)) durch die unabhängigen Variablen (\(x_1, x_2, \ldots, x_n\)) erklärt wird.

Erklärung von \(R^2\):

• Definition: \(R^2\) ist das Verhältnis der erklärten Varianz zur Gesamtvarianz der abhängigen Variable. Es gibt an, wie gut die unabhängigen Variablen die Variation der abhängigen Variable erklären.
• Bereich: \(R^2\) liegt immer zwischen 0 und 1.
• Interpretation: Ein \(R^2\) von 1 bedeutet, dass das Modell die gesamte Variation der abhängigen Variable erklärt, während ein \(R^2\) von 0 darauf hinweist, dass das Modell keinerlei Erklärungskraft besitzt.

Berechnung von \(R^2\):

• \(R^2\) wird wie folgt berechnet:

• R^2 = 1 - \frac{SS_{res}}{SS_{tot}}

• wobei:
• \(SS_{res}\) die Residualsumme der Quadrate ist (Summe der quadrierten Abweichungen der beobachteten Werte von den vorhergesagten Werten).
• \(SS_{tot}\) die Gesamtsumme der Quadrate ist (Summe der quadrierten Abweichungen der beobachteten Werte vom Mittelwert der beobachteten Werte).

Interpretation eines \(R^2\) von 0.85:

• Ein \(R^2\) von 0.85 bedeutet, dass 85% der Variation der abhängigen Variable (\(y\)) durch die unabhängigen Variablen (\(x_1, x_2, \ldots, x_n\)) im Modell erklärt werden.
• Dies deutet darauf hin, dass das Modell eine sehr gute Erklärungskraft besitzt und die unabhängigen Variablen einen hohen Einfluss auf die Variation der abhängigen Variable haben.

Zusammenfassend gibt \(R^2\) einen guten Überblick darüber, wie gut das Regressionsmodell die Daten erklärt. Ein hoher \(R^2\)-Wert deutet auf eine starke Anpassung des Modells an die Daten hin.

d)

4. Endogenität und Instrumentvariable: Diskutiere das Problem der Endogenität in dem gegebenen Modell. Wie könnte man das Problem der Endogenität mit einer Instrumentvariablen für \(Y\) lösen? Beschreibe den Prozess und die Bedingungen, die eine gültige Instrumentvariable erfüllen muss.

Lösung:

Das Problem der Endogenität tritt auf, wenn eine oder mehrere unabhängige Variablen (z.B., \(Y\)) im Regressionsmodell mit dem Fehlerterm (\(\epsilon\)) korreliert sind. Dies kann zu verzerrten und inkonsistenten Schätzungen der Regressionskoeffizienten führen.

Ursachen der Endogenität:

• Omitted Variable Bias: Eine relevante Variable wurde im Modell weggelassen und korreliert sowohl mit einer unabhängigen als auch mit der abhängigen Variable.
• Simultaneität: Wenn die abhängige und eine unabhängige Variable sich gegenseitig beeinflussen.
• Messfehler: Fehler bei der Messung einer oder mehrerer unabhängiger Variablen.

Lösung des Endogenitätsproblems mit einer Instrumentvariablen (IV):

Eine Instrumentvariable (IV) ist eine Variable, die verwendet wird, um die endogene unabhängige Variable (z.B., \(Y\)) zu ersetzen, um eine exogene Schätzung zu erhalten.

Anforderungen an eine gültige Instrumentvariable:

• Relevanz: Die IV muss stark mit der endogenen unabhängigen Variable (\(Y\)) korreliert sein.
• Exogenität: Die IV darf nicht mit dem Fehlerterm (\(\epsilon\)) im Regressionsmodell korreliert sein.

Prozess der Instrumentvariablen-Schätzung:

• 1. Erste Stufe: Schätze \(Y\) anhand der IV (z.B., \(Z\)) und anderer exogenen Variablen. Dies ergibt die vorhergesagte Werte \(\hat{Y}\):

• Y = \pi_0 + \pi_1 Z + \pi_2 X_2 + \ldots + \pi_n X_n + u

• 2. Zweite Stufe: Ersetze \(Y\) in der ursprünglichen Regressionsgleichung durch \(\hat{Y}\) und schätze das Modell erneut:

• y = \beta_0 + \beta_1 \hat{Y} + \beta_2 x_2 + \ldots + \beta_n x_n + \epsilon

• Durch diese Zweistufen-Methode wird \(\beta_1\) als konsistente Schätzung erhalten, da \(\hat{Y}\) nun eine exogene Variable ist.

Zusammenfassend kann das Problem der Endogenität durch den Einsatz einer geeigneten Instrumentvariablen gelöst werden. Eine gültige IV muss sowohl relevant als auch exogen sein, um eine konsistente Schätzung der Regressionskoeffizienten zu gewährleisten.

Aufgabe 2)

Betrachtet die Beziehung zwischen dem Einkommen (y) und der Anzahl der Arbeitsjahre (x), nutzt dafür ein einfaches lineares Regressionsmodell:

• Modell: \( y = \beta_0 + \beta_1 x + \epsilon \)
• Schätzung mittels OLS: minimiert die Summe der quadrierten Residuen
• OLS-Schätzer: \( \hat{\beta}_1 = \frac{ \sum (x_i - \bar{x})(y_i - \bar{y}) }{ \sum (x_i - \bar{x})^2 } \)
• Interpretation: \( \beta_1 \) misst die durchschnittliche Änderung von \( y \) bei einer Einheit Änderung von \( x \)
• Residuum: \( \hat{\epsilon}_i = y_i - \hat{y}_i \)
• Bestimmtheitsmaß (R²): erklärt den Anteil der durch das Modell erklärten Varianz von \( y \)

a)

Schätze die Koeffizienten \(\beta_0\) und \(\beta_1\) mithilfe von OLS, wenn die folgenden Daten gegeben sind:

• Arbeitsjahre (x): 1, 2, 3, 4, 5
• Einkommen (y): 35, 40, 45, 50, 55 (in Tausend Euro)

Nutze die Formeln für die OLS-Schätzer.

Lösung:

Zuerst berechnen wir die Mittelwerte von x und y, die als \( \bar{x} \) und \( \bar{y} \) bezeichnet werden.

• Arbeitsjahre (x): 1, 2, 3, 4, 5
• Einkommen (y): 35, 40, 45, 50, 55 (in Tausend Euro)

Berechnung von \( \bar{x} \) und \( \bar{y} \):

\( \bar{x} = \frac{1+2+3+4+5}{5} = \frac{15}{5} = 3 \)

\( \bar{y} = \frac{35+40+45+50+55}{5} = \frac{225}{5} = 45 \)

Nun berechnen wir \( \beta_1 \) mit der Formel:

\( \beta_1 = \frac{ \sum (x_i - \bar{x})(y_i - \bar{y}) }{ \sum (x_i - \bar{x})^2 } \)

Berechnung der einzelnen Summanden:

• \( x_1 = 1, y_1 = 35 \)
• \( x_2 = 2, y_2 = 40 \)
• \( x_3 = 3, y_3 = 45 \)
• \( x_4 = 4, y_4 = 50 \)
• \( x_5 = 5, y_5 = 55 \)

\( \sum (x_i - \bar{x})(y_i - \bar{y}) = (1-3)(35-45) + (2-3)(40-45) + (3-3)(45-45) + (4-3)(50-45) + (5-3)(55-45) \)

\( = (-2)(-10) + (-1)(-5) + (0)(0) + (1)(5) + (2)(10) \)

\( = 20 + 5 + 0 + 5 + 20 = 50 \)

\( \sum (x_i - \bar{x})^2 = (1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^2 \)

\( = (-2)^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2 \)

\( = 4 + 1 + 0 + 1 + 4 = 10 \)

Damit ist:

\( \hat{\beta}_1 = \frac{50}{10} = 5 \)

Nun berechnen wir \( \beta_0 \) mit der Formel:

\( \beta_0 = \bar{y} - \beta_1 \bar{x} \)

\( = 45 - 5 \cdot 3 = 45 - 15 = 30 \)

Die geschätzten Koeffizienten sind somit:

• \( \hat{\beta}_0 = 30 \)
• \( \hat{\beta}_1 = 5 \)

Das einfache lineare Regressionsmodell, welches das Einkommen auf die Anzahl der Arbeitsjahre schätzt, lautet also:

\( \hat{y} = 30 + 5x \)

b)

Interpretiere die Ergebnisse der Schätzung von \(\beta_1\). Was sagt der Wert über die Beziehung zwischen Einkommen und Arbeitsjahren aus?

Lösung:

Nachdem wir die Koeffizienten \( \beta_0 \) und \( \beta_1 \) geschätzt haben, können wir die Bedeutung des Koeffizienten \( \beta_1 \) interpretieren. Im vorherigen Schritt haben wir die Werte für \( \hat{\beta}_0 \) und \( \hat{\beta}_1 \) wie folgt berechnet:

• \( \hat{\beta}_0 = 30 \)
• \( \hat{\beta}_1 = 5 \)

\( \beta_1 \) repräsentiert den Koeffizienten der unabhängigen Variablen (Arbeitsjahre, x). Der geschätzte Wert von \( \hat{\beta}_1 = 5 \) gibt an, wie viel sich das Einkommen (y) im Durchschnitt ändert, wenn sich die Anzahl der Arbeitsjahre (x) um eine Einheit ändert.

In diesem Beispiel bedeutet ein \( \hat{\beta}_1 \) von 5, dass für jedes zusätzliche Arbeitsjahr (x) das erwartete Einkommen (y) um 5000 Euro steigt. Dies zeigt eine positive Beziehung zwischen der Anzahl der Arbeitsjahre und dem Einkommen: Je mehr Arbeitsjahre eine Person hat, desto höher ist ihr Einkommen im Durchschnitt.

Zusammengefasst:

• Interpretation von \( \hat{\beta}_1 \): Der Koeffizient \( \hat{\beta}_1 = 5 \) zeigt, dass das Einkommen um durchschnittlich 5000 Euro für jedes zusätzliche Arbeitsjahr steigt.
• Beziehung: Es besteht eine positive lineare Beziehung zwischen der Anzahl der Arbeitsjahre und dem Einkommen.

Das Modell kann also genutzt werden, um das Einkommen grob auf Basis der Arbeitsjahre vorherzusagen. Beachte jedoch, dass das Modell Vereinfachungen darstellt und andere Faktoren, die das Einkommen beeinflussen, nicht berücksichtigt werden.

c)

Berechne die Residuen \(\hat{\epsilon}_i\) für die gegebenen Daten. Erläutere kurz, was die Residuen darstellen und warum sie für die Modellbewertung wichtig sind.

Lösung:

Um die Residuen \( \hat{\epsilon}_i \) zu berechnen, nutzen wir die Schätzwerte \( \hat{y}_i \) aus unserem Regressionsmodell:

• Modell: \( y = \beta_0 + \beta_1 x + \epsilon \)

Die Schätzwerte für die Koeffizienten sind:

• \( \hat{\beta}_0 = 30 \)
• \( \hat{\beta}_1 = 5 \)

Die Daten sind:

• Arbeitsjahre (x): 1, 2, 3, 4, 5
• Einkommen (y): 35, 40, 45, 50, 55 (in Tausend Euro)

Die vorhergesagten Werte \( \hat{y}_i \) berechnen wir mit dem Modell:

\( \hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i \)

• \( \hat{y}_1 = 30 + 5 \cdot 1 = 35 \)
• \( \hat{y}_2 = 30 + 5 \cdot 2 = 40 \)
• \( \hat{y}_3 = 30 + 5 \cdot 3 = 45 \)
• \( \hat{y}_4 = 30 + 5 \cdot 4 = 50 \)
• \( \hat{y}_5 = 30 + 5 \cdot 5 = 55 \)

Die tatsächlichen Werte \( y_i \) sind:

• \( y_1 = 35 \)
• \( y_2 = 40 \)
• \( y_3 = 45 \)
• \( y_4 = 50 \)
• \( y_5 = 55 \)

Nun berechnen wir die Residuen \( \hat{\epsilon}_i \):

• \( \hat{\epsilon}_1 = y_1 - \hat{y}_1 = 35 - 35 = 0 \)
• \( \hat{\epsilon}_2 = y_2 - \hat{y}_2 = 40 - 40 = 0 \)
• \( \hat{\epsilon}_3 = y_3 - \hat{y}_3 = 45 - 45 = 0 \)
• \( \hat{\epsilon}_4 = y_4 - \hat{y}_4 = 50 - 50 = 0 \)
• \( \hat{\epsilon}_5 = y_5 - \hat{y}_5 = 55 - 55 = 0 \)

Die Residuen \( \hat{\epsilon}_i \) sind somit alle gleich 0. Das bedeutet, dass das Modell die tatsächlichen Datenpunkte perfekt beschreibt.

Was stellen die Residuen dar?

Residuen sind die Differenzen zwischen den tatsächlichen Werten \( y_i \) und den durch das Modell vorhergesagten Werten \( \hat{y}_i \). Sie zeigen, wie gut das Modell die tatsächlichen Datenpunkte beschreibt.

Warum sind die Residuen für die Modellbewertung wichtig?

• Die Residuen geben Hinweise darauf, wo das Modell die tatsächlichen Werte verfehlt.
• Kleine Residuen deuten darauf hin, dass das Modell die Daten gut beschreibt, während große Residuen auf eine schlechte Beschreibung hindeuten.
• Die Summe der quadrierten Residuen wird minimiert, um die besten Schätzwerte für \( \beta_0 \) und \( \beta_1 \) zu finden (Methode der kleinsten Quadrate, OLS).
• Die Verteilung der Residuen kann wichtige Informationen über Probleme wie Heteroskedastizität oder Autokorrelation liefern.

d)

Berechne das Bestimmtheitsmaß (R²) für dein Modell und erläutere, wie gut das Modell die Varianz von Einkommen erklärt. Nutze dafür die geschätzten Werte und die Originaldaten.

Lösung:

Das Bestimmtheitsmaß (\( R^2 \)) gibt an, wie gut das Modell die Varianz der abhängigen Variable (in diesem Fall Einkommen) erklärt. Es wird wie folgt berechnet:

• Gesamte Varianz (Total Sum of Squares, TSS): \( \text{TSS} = \sum (y_i - \bar{y})^2 \)
• Erklärte Varianz (Explained Sum of Squares, ESS): \( \text{ESS} = \sum (\hat{y}_i - \bar{y})^2 \)
• Restvarianz (Residual Sum of Squares, RSS): \( \text{RSS} = \sum (y_i - \hat{y}_i)^2 \)
• \( R^2 \): \( R^2 = \frac{\text{ESS}}{\text{TSS}} = 1 - \frac{\text{RSS}}{\text{TSS}} \)

Zuerst berechnen wir die Mittelwerte \( \bar{y} \):

\( \bar{y} = \frac{35 + 40 + 45 + 50 + 55}{5} = 45 \)

Dann berechnen wir die einzelnen Varianzen:

1. Gesamte Varianz (TSS):

\( \text{TSS} = (35-45)^2 + (40-45)^2 + (45-45)^2 + (50-45)^2 + (55-45)^2 \)

\( = (-10)^2 + (-5)^2 + 0^2 + 5^2 + 10^2 \)

\( = 100 + 25 + 0 + 25 + 100 \)

\( = 250 \)

2. Erklärte Varianz (ESS):

\( \text{ESS} = (35-45)^2 + (40-45)^2 + (45-45)^2 + (50-45)^2 + (55-45)^2 \)

\( = (-10)^2 + (-5)^2 + 0^2 + 5^2 + 10^2 \)

\( = 100 + 25 + 0 + 25 + 100 \)

\( = 250 \)

3. Restvarianz (RSS):

Wie in der Berechnung der Residuen gezeigt, sind:

• \( \hat{\epsilon}_1 = 35 - 35 = 0 \)
• \( \hat{\epsilon}_2 = 40 - 40 = 0 \)
• \( \hat{\epsilon}_3 = 45 - 45 = 0 \)
• \( \hat{\epsilon}_4 = 50 - 50 = 0 \)
• \( \hat{\epsilon}_5 = 55 - 55 = 0 \)

Somit ist:

\( \text{RSS} = 0^2 + 0^2 + 0^2 + 0^2 + 0^2 = 0 \)

4. Berechnung von \( R^2 \):

\( R^2 = 1 - \frac{\text{RSS}}{\text{TSS}} = 1 - \frac{0}{250} = 1 \)

Ein \( R^2 \) von 1 bedeutet, dass das Modell die gesamte Varianz des Einkommens erklärt. Dies entspricht unseren vorherigen Beobachtungen, da die beobachteten und vorhergesagten Werte identisch sind.

Zusammenfassung:Das Modell erklärt 100 % der Varianz des Einkommens, was bedeutet, dass die Anzahl der Arbeitsjahre die Hauptdeterminante für das Einkommen der betrachteten Personen ist. Das ist jedoch in der echten Welt selten der Fall, da in der Realität viele Einflussfaktoren eine Rolle spielen.

Aufgabe 3)

Gegeben sei ein Datensatz mit den Variablen Einkommen (\textit{Income}) und Konsum (\textit{Consumption}). Es wird angenommen, dass die Beziehung zwischen diesen Variablen durch ein lineares Regressionsmodell beschrieben werden kann. Schätze die Regressionsparameter mittels der Methode der kleinsten Quadrate (OLS) und überprüfe die Hauptannahmen des Modells. Die Unabhängige Variable ist das Einkommen (\textit{Income}) und die abhängige Variable ist der Konsum (\textit{Consumption}). Die beobachteten Werte für Einkommen lauten: 20, 30, 40, 50, 60 und die zugehörigen Konsumwerte sind: 80, 120, 160, 200, 240.

a)

Schätze die Regressionsparameter \(\beta_0\) und \(\beta_1\) für das Modell \(Y = \beta_0 + \beta_1 X + e\), wobei \(Y\) den Konsum und \(X\) das Einkommen darstellt. Berechne dazu zunächst die Matrizen \(X\) und \(Y\).

Lösung:

Um die Regressionsparameter \(\beta_0\) und \(\beta_1\) für das Modell \(Y = \beta_0 + \beta_1 X + e\), wobei \(Y\) den Konsum und \(X\) das Einkommen darstellt, zu schätzen, verwenden wir die Methode der kleinsten Quadrate (OLS). Der erste Schritt besteht darin, die Matrizen \(X\) und \(Y\) zu berechnen.

Gegeben sind die beobachteten Werte für das Einkommen: 20, 30, 40, 50, 60 und die zugehörigen Konsumwerte: 80, 120, 160, 200, 240.

Wir können die Rupsmatrix \(X\) und die Vektormatrix \(Y\) wie folgt erstellen:

• X (Rupsmatrix): Füge eine Spalte aus Einsen hinzu, die den Schnittstellenbegriff \(\beta_0\) repräsentiert:

•  X = [    1     20 ] [    1     30 ] [    1     40 ] [    1     50 ] [    1     60 ] 

• Y (Vektormatrix):

•  Y = [   80 ] [   120 ] [   160 ] [   200 ] [   240 ] 

Nun haben wir die Matrizen \(X\) und \(Y\) wie gewünscht berechnet.

b)

Verwende die OLS-Formel \(\beta = (X'X)^{-1} X'Y\), um die Koeffizienten zu bestimmen. Zeige die einzelnen Schritte der Berechnung einschließlich der Berechnung von \(X'X\) und \(X'Y\).

Lösung:

Um die Regressionsparameter \(\beta_0\) und \(\beta_1\) zu bestimmen, verwenden wir die Methode der kleinsten Quadrate (OLS). Die allgemeine Formel zur Berechnung der Regressionsparameter lautet:

\(\beta = (X'X)^{-1} X'Y\)

Hier sind die Einzelschritte zur Lösung:

• Schritt 1: Matrizen \(X\) und \(Y\) aufstellen:
• X:

• X = \begin{pmatrix} 1 & 20 \ 1 & 30 \ 1 & 40 \ 1 & 50 \ 1 & 60 \end{pmatrix}

• Y:

• Y = \begin{pmatrix} 80 \ 120 \ 160 \ 200 \ 240 \end{pmatrix}

• Schritt 2: Transponierte Matrix \(X'\) berechnen:

• X' = \begin{pmatrix} 1 & 1 & 1 & 1 & 1 \ 20 & 30 & 40 & 50 & 60 \end{pmatrix}

• Schritt 3: Produkt \(X'X\) berechnen:

• X'X = \begin{pmatrix} 1 & 1 & 1 & 1 & 1 \ 20 & 30 & 40 & 50 & 60 \end{pmatrix} \begin{pmatrix} 1 & 20 \ 1 & 30 \ 1 & 40 \ 1 & 50 \ 1 & 60 \end{pmatrix}

• X'X = \begin{pmatrix} 5 & 200 \ 200 & 10000 \end{pmatrix}

• Schritt 4: Produkt \(X'Y\) berechnen:

• X'Y = \begin{pmatrix} 1 & 1 & 1 & 1 & 1 \ 20 & 30 & 40 & 50 & 60 \end{pmatrix} \begin{pmatrix} 80 \ 120 \ 160 \ 200 \ 240 \end{pmatrix}

• X'Y = \begin{pmatrix} 800 \ 40000 \end{pmatrix}

• Schritt 5: Inverse von \(X'X\) berechnen:
• Die Inverse einer 2x2-Matrix \(A = \begin{pmatrix} a & b \ c & d \end{pmatrix}\) kann mit der Formel \(\frac{1}{ad-bc} \begin{pmatrix} d & -b \ -c & a \end{pmatrix}\) berechnet werden.

• (X'X)^{-1} = \frac{1}{5 \cdot 10000 - 200 \cdot 200} \begin{pmatrix} 10000 & -200 \ -200 & 5 \end{pmatrix}

• \frac{1}{50000 - 40000} \begin{pmatrix} 10000 & -200 \ -200 & 5 \end{pmatrix} = \frac{1}{10000} \begin{pmatrix} 10000 & -200 \ -200 & 5 \end{pmatrix}

• (X'X)^{-1} = \begin{pmatrix} 1 & -0.02 \ -0.02 & 0.0005 \end{pmatrix}

• Schritt 6: Endgültige Koeffizienten \(\beta\) berechnen:

• \beta = (X'X)^{-1} X'Y = \begin{pmatrix} 1 & -0.02 \ -0.02 & 0.0005 \end{pmatrix} \begin{pmatrix} 800 \ 40000 \end{pmatrix}

• \beta = \begin{pmatrix} 1 \cdot 800 + (-0.02) \cdot 40000 \ -0.02 \cdot 800 + 0.0005 \cdot 40000 \end{pmatrix} = \begin{pmatrix} 0 \ 4 \end{pmatrix}

Damit erhalten wir die Regressionsparameter:

• \(\beta_0 = 0\)
• \(\beta_1 = 4\)

c)

Bestimme die Fehlerterme \(e_i = Y_i - \beta_0 - \beta_1 X_i\) für alle gegebenen Datenpunkte und überprüfe die Hauptannahmen der Regression bezüglich der Fehlerterme: Linearität, Unabhängigkeit, Homoskedastizität und Normalverteilung. Welche Methoden würdest du verwenden, um diese Annahmen zu überprüfen?

Lösung:

Nachdem wir die Regressionsparameter \(\beta_0\) und \(\beta_1\) bestimmt haben (\(\beta_0 = 0\) und \(\beta_1 = 4\)), können wir die Fehlerterme \(e_i\) für die gegebenen Datenpunkte berechnen.

Fehlerterme berechnen

• Die allgemeine Formel für die Fehlerterme lautet:\[e_i = Y_i - \beta_0 - \beta_1 X_i\]
• Setze die Werte für \(\beta_0\) und \(\beta_1\) ein:
• \[e_i = Y_i - 0 - 4X_i = Y_i - 4X_i\]
• Berechne die Fehlerterme für die gegebenen Datenpunkte:

•  Für X = 20, Y = 80: e_1 = 80 - 4(20) = 80 - 80 = 0 

•  Für X = 30, Y = 120: e_2 = 120 - 4(30) = 120 - 120 = 0 

•  Für X = 40, Y = 160: e_3 = 160 - 4(40) = 160 - 160 = 0 

•  Für X = 50, Y = 200: e_4 = 200 - 4(50) = 200 - 200 = 0 

•  Für X = 60, Y = 240: e_5 = 240 - 4(60) = 240 - 240 = 0 

Alle Fehlerterme \(e_i\) sind 0. Dies zeigt, dass das Modell perfekt zu den Daten passt.

Überprüfung der Hauptannahmen

Um die Hauptannahmen der Regression (Linearität, Unabhängigkeit, Homoskedastizität und Normalverteilung) zu überprüfen, würden wir normalerweise folgende Methoden verwenden:

• Linearität:
• Erstelle ein Streudiagramm der Residuen gegen die Prädiktorvariable (Einkommen). Wenn die Punkte zufällig um die horizontale Achse streuen, ist die Linearbeziehung gegeben.
• Unabhängigkeit:
• Der Durbin-Watson-Test kann verwendet werden, um die Autokorrelation der Residuen zu testen. Ein Wert nahe 2 deutet auf keine Autokorrelation hin.
• Homoskedastizität:
• Erstelle ein Streudiagramm der Residuen gegen die vorhergesagten Werte. Wenn die Variabilität der Residuen konstant ist und keine Beziehung zwischen den Fehlern und den vorhergesagten Werten existiert, ist die Annahme der Homoskedastizität erfüllt.
• Normalverteilung der Residuen:
• Erstelle ein Normal-QQ-Diagramm der Residuen. Wenn die Punkte nahe an einer Diagonale liegen, sind die Residuen normal verteilt.

Da in diesem Fall alle Residuen 0 sind, werden diese Methoden in der Praxis zeigen, dass alle Annahmen perfekt erfüllt sind. Dies ist allerdings ungewöhnlich und deutet darauf hin, dass das Modell perfekt die Daten beschreibt, was in realen Datensätzen selten der Fall ist.

d)

Diskutiere, wie sich die Ergebnisse der Regression ändern könnten, wenn eine der wichtigen Annahmen (z.B. Homoskedastizität) verletzt ist. Welche Verfahren oder Anpassungen könntest du vornehmen, um mit solchen Verletzungen umzugehen?

Lösung:

Wenn eine oder mehrere der Hauptannahmen des linearen Regressionsmodells verletzt sind, können die Ergebnisse der Regression unzuverlässig oder verzerrt sein. Lassen Sie uns betrachten, wie sich die Ergebnisse ändern könnten, wenn eine der wichtigen Annahmen verletzt ist, und welche Verfahren oder Anpassungen vorgenommen werden können, um mit solchen Verletzungen umzugehen.

Verletzung der Homoskedastizität

Homoskedastizität bezieht sich auf die Annahme, dass die Varianz der Fehlerterme (Residuen) für alle vorhergesagten Werte konstant ist. Wenn diese Annahme verletzt ist, spricht man von Heteroskedastizität. Dies bedeutet, dass die Varianz der Residuen von den vorhergesagten Werten abhängt.

Auswirkungen auf die Ergebnisse:

• Die Schätzungen der Regressionskoeffizienten bleiben unverzerrt, aber ihre Standardfehler können verzerrt sein.
• Dies führt zu inkorrekten Konfidenzintervallen und Hypothesentests.
• Trotz unverzerrter Koeffizienten werden die P-Werte und somit die Tests auf Signifikanz der Variablen unzuverlässig.

Verfahren und Anpassungen:

• Robuste Standardfehler: Eine Methode, um mit Heteroskedastizität umzugehen, ist die Verwendung von robusten Standardfehlern (z.B. White-Huber-Standardfehler), die heteroskedastizitätskonsistente Schätzungen liefern.
• Transformation der Variablen: Manchmal kann eine Transformation der abhängigen Variable (z.B. Log-Transformation) helfen, Heteroskedastizität zu reduzieren.
• Weighted Least Squares (WLS): Diese Methode gewichtet die Beobachtungen in der Regression so, dass die Varianz der Fehlerterme konstant ist.

Verletzung der Annahme der Normalverteilung der Fehlerterme

Normalverteilung der Fehler: Diese Annahme besagt, dass die Fehlerterme normalverteilt sind. Sie ist besonders wichtig für die Durchführung von Hypothesentests und die Erstellung von Konfidenzintervallen.

Auswirkungen auf die Ergebnisse:

• Die Regressionskoeffizienten selbst bleiben unverzerrt, jedoch sind die Konfidenzintervalle und Hypothesentests möglicherweise nicht mehr gültig.
• Extreme Abweichungen von der Normalverteilung können die Ergebnisse erheblich verfälschen.

Verfahren und Anpassungen:

• Transformation der Variablen: Eine Transformation der abhängigen (oder unabhängigen) Variablen kann helfen, die Normalität der Residuen zu erreichen.
• Bootstrapping: Eine nicht-parametrische Methode zur Schätzung der Verteilung von Regressionskoeffizienten, die keine Normalitätsannahme verlangt.

Verletzung der Unabhängigkeit der Fehler

Unabhängigkeit der Fehler: Diese Annahme besagt, dass die Fehlerterme nicht korreliert sind. Eine Verletzung dieser Annahme könnte auf Autokorrelation hinweisen.

Auswirkungen auf die Ergebnisse:

• Die Koeffizienten bleiben unverzerrt, ihre Varianzen können jedoch unterschätzt oder überschätzt werden.
• Dies führt zu inkorrekten Standardfehlern und Hypothesentests.

Verfahren und Anpassungen:

• Durbin-Watson-Test: Ein Test zur Überprüfung der Autokorrelation in den Residuen.
• Verwendung von ARIMA-Modellen: Diese Modelle können Autokorrelation direkt modellieren.
• Generalisierte Least Squares (GLS): Diese Methode passt das Regressionsmodell an, um Korrelationen zwischen den Fehlern zu berücksichtigen.

Verletzung der Linearitätsannahme

Linearität: Diese Annahme besagt, dass die Beziehung zwischen den unabhängigen und abhängigen Variablen linear ist.

Auswirkungen auf die Ergebnisse:

• Die geschätzten Koeffizienten können verzerrt sein, was zu falschen Schlussfolgerungen führt.
• Das Modell ist möglicherweise nicht geeignet, die Daten richtig darzustellen.

Verfahren und Anpassungen:

• Streudiagramme: Zur visuellen Überprüfung, ob die Beziehung zwischen den Variablen linear ist.
• Einführung nicht-linearer Terme: Wie Quadratterme oder kubische Terme zur Erfassung nicht-linearer Beziehungen.
• Verwendung von nicht-linearen Regressionsmodellen: Um komplexere Beziehungen zu modellieren.

Insgesamt ist es wichtig, die Hauptannahmen des linearen Regressionsmodells zu überprüfen und gegebenenfalls Anpassungen vorzunehmen, um zuverlässige und gültige Ergebnisse zu erhalten.

Aufgabe 4)

Du hast eine multiple lineare Regression durchgeführt, bei der die abhängige Variable das Konsumverhalten (y) ist und die unabhängigen Variablen das Einkommen (x1), das Alter (x2) und die Bildung (x3) der Personen umfassen. Die geschätzte Regressionsgleichung lautet: y = 5 + 0.8 x1 - 0.5 x2 + 0.3 x3 Der konstante Term beträgt 5.

a)

Interpretation des Regressionskoeffizienten für das Einkommen (\beta_1):Erkläre, was der Koeffizient 0.8 für das Einkommen in diesem Kontext bedeutet. Ist die Beziehung zwischen Einkommen und Konsumverhalten positiv oder negativ? Begründe Deine Antwort.

Lösung:

Interpretation des Regressionskoeffizienten für das Einkommen (\( \beta_1 \)):Der Regressionskoeffizient für das Einkommen (\( \beta_1 \)) beträgt 0.8 in der gegebenen Regressionsgleichung:

• \[ y = 5 + 0.8 x_1 - 0.5 x_2 + 0.3 x_3 \]

Dies bedeutet, dass für jede Einheit, mit der das Einkommen (\( x_1 \)) steigt, das Konsumverhalten (\( y \)) um 0.8 Einheiten zunimmt, vorausgesetzt, alle anderen Variablen (Alter und Bildung) bleiben konstant.Die Beziehung zwischen Einkommen und Konsumverhalten ist positiv. Dies wird durch den positiven Koeffizienten (0.8) für das Einkommen angezeigt. Eine positive Beziehung bedeutet, dass ein Anstieg des Einkommens zu einem Anstieg des Konsumverhaltens führt.

• Erklärung: Ein höheres Einkommen ermöglicht es den Personen, mehr Geld für Konsumgüter auszugeben, was zu einem Anstieg ihres Konsumverhaltens führt.
• Mathematisch: \( \beta_1 = 0.8 \) ist positiv, was auf eine direkte proportionale Beziehung zwischen Einkommen und Konsumverhalten hinweist.

b)

Interpretation des Regressionskoeffizienten für das Alter (\beta_2):Wie interpretiert man den Koeffizienten -0.5 für das Alter? Was sagt das Vorzeichen dieses Koeffizienten über die Beziehung zwischen Alter und Konsumverhalten aus?

Lösung:

Interpretation des Regressionskoeffizienten für das Alter (\( \beta_2 \)):Der Regressionskoeffizient für das Alter (\( \beta_2 \)) beträgt -0.5 in der gegebenen Regressionsgleichung:

• \[ y = 5 + 0.8 x_1 - 0.5 x_2 + 0.3 x_3 \]

Dies bedeutet, dass für jede Einheit, mit der das Alter (\( x_2 \)) steigt, das Konsumverhalten (\( y \)) um 0.5 Einheiten abnimmt, vorausgesetzt, alle anderen Variablen (Einkommen und Bildung) bleiben konstant.Das negative Vorzeichen dieses Koeffizienten (-0.5) zeigt, dass es eine negative Beziehung zwischen Alter und Konsumverhalten gibt. Das bedeutet, dass eine Zunahme des Alters mit einer Abnahme des Konsumverhaltens verbunden ist.

• Erklärung: Ältere Personen neigen möglicherweise dazu, weniger zu konsumieren als jüngere Personen. Dies könnte verschiedene Gründe haben, wie zum Beispiel eine Verringerung der Kaufkraft im Alter oder geänderte Konsumgewohnheiten.
• Mathematisch: \( \beta_2 = -0.5 \) ist negativ, was auf eine umgekehrt proportionale Beziehung zwischen Alter und Konsumverhalten hinweist.

c)

Achsenabschnitt (\beta_0):Wie interpretiert man den konstanten Term in dieser Regressionsgleichung? Was würde dies in einem realistischen Szenario bedeuten, wenn alle unabhängigen Variablen gleich Null sind?

Lösung:

Achsenabschnitt (\( \beta_0 \)):Der konstante Term in der gegebenen Regressionsgleichung beträgt 5. Die Regressionsgleichung lautet:

• \[ y = 5 + 0.8 x_1 - 0.5 x_2 + 0.3 x_3 \]

Der konstante Term, auch bekannt als Achsenabschnitt (\( \beta_0 \)), gibt den Wert der abhängigen Variablen (\( y \)), d. h. des Konsumverhaltens, an, wenn alle unabhängigen Variablen (Einkommen (\( x_1 \)), Alter (\( x_2 \)) und Bildung (\( x_3 \))) gleich Null sind.In diesem Szenario bedeutet dies:

• Wenn das Einkommen (\( x_1 \)) null ist,
• wenn das Alter (\( x_2 \)) null ist, und
• wenn die Bildung (\( x_3 \)) null ist,

dann beträgt das Konsumverhalten (\( y \)) der Personen 5 Einheiten.

• Erklärung: Der konstante Term repräsentiert also den Basiswert des Konsumverhaltens, wenn keine anderen Faktoren (Einkommen, Alter und Bildung) das Konsumverhalten beeinflussen.
• Realistisches Szenario: In der Realität sind die Werte der unabhängigen Variablen selten null. Aber der konstante Term gibt eine wichtige Referenz, um zu verstehen, wie das Konsummuster bei Fehlen dieser Variablen aussehen könnte.

d)

Signifikanz und Vertrauensintervalle:Angenommen, die p-Werte für \beta_1, \beta_2 und \beta_3 sind 0.03, 0.15 und 0.02. Welche Schlüsse kannst Du hinsichtlich der Signifikanz der einzelnen Koeffizienten ziehen? Wie würde man für \beta_1 und \beta_3 die Vertrauensintervalle interpretieren, wenn die Standardfehler 0.2 und 0.1 betragen?

Lösung:

Signifikanz und Vertrauensintervalle:Die p-Werte für \( \beta_1 \), \( \beta_2 \) und \( \beta_3 \) sind 0.03, 0.15 und 0.02. Diese p-Werte geben uns Hinweise darauf, ob die jeweiligen Regressionskoeffizienten statistisch signifikant sind.

• Ein p-Wert unter dem typischen Signifikanzniveau von 0.05 deutet darauf hin, dass der entsprechende Koeffizient signifikant von null verschieden ist.

Signifikanz der Koeffizienten:

• \( \beta_1 \) (Einkommen): p-Wert = 0.03Da der p-Wert kleiner als 0.05 ist, ist der Koeffizient für Einkommen statistisch signifikant. Dies bedeutet, dass es einen statistisch signifikanten Zusammenhang zwischen Einkommen und Konsumverhalten gibt.
• \( \beta_2 \) (Alter): p-Wert = 0.15Da der p-Wert größer als 0.05 ist, ist der Koeffizient für Alter nicht statistisch signifikant. Dies bedeutet, dass der Zusammenhang zwischen Alter und Konsumverhalten statistisch nicht gesichert ist.
• \( \beta_3 \) (Bildung): p-Wert = 0.02Da der p-Wert kleiner als 0.05 ist, ist der Koeffizient für Bildung statistisch signifikant. Dies bedeutet, dass es einen statistisch signifikanten Zusammenhang zwischen Bildung und Konsumverhalten gibt.

Vertrauensintervalle:Für \( \beta_1 \) und \( \beta_3 \) können wir Vertrauensintervalle berechnen, wenn die Standardfehler 0.2 bzw. 0.1 betragen. Ein übliches Vertrauensniveau ist 95%, was einem \( 1.96 \)-fachen des Standardfehlers entspricht (für eine zweiseitige Normalverteilung).

• Für \( \beta_1 \) (Einkommen):\( \beta_1 = 0.8 \) und Standardfehler = 0.2Das 95%-Vertrauensintervall berechnet sich wie folgt:\[ 0.8 \, \pm \, 1.96 \times 0.2 = 0.8 \, \pm \, 0.392 = [0.408, 1.192] \]Dieses Intervall besagt, dass wir mit 95%iger Sicherheit annehmen können, dass der wahre Wert von \( \beta_1 \) (Einkommen) zwischen 0.408 und 1.192 liegt.
• Für \( \beta_3 \) (Bildung):\( \beta_3 = 0.3 \) und Standardfehler = 0.1Das 95%-Vertrauensintervall berechnet sich wie folgt:\[ 0.3 \, \pm \, 1.96 \times 0.1 = 0.3 \, \pm \, 0.196 = [0.104, 0.496] \]Dieses Intervall besagt, dass wir mit 95%iger Sicherheit annehmen können, dass der wahre Wert von \( \beta_3 \) (Bildung) zwischen 0.104 und 0.496 liegt.