Methode der kleinsten Quadrate
Einfache Sprache
Def. Methode der kleinsten Quadrate
Aufbau
In Vektor-Schreibweise
$$y_i = \mathfrak x_i \mathfrak b + u_i\;,$$wobei
- $i = 1,\ldots,N$ die Anzahl der Beobachtungen,
- $j = 1,\ldots,K$ die Anzahl der beobachteten erklärenden Variablen,
- $\mathfrak x_i = \left( \begin{array}{ccc} x_{1,i}& \ldots & x_{K,i} \end{array} \right)$ ist der Vektor der Erklärenden Variablen,
- $x_{j,i}$ ist die $i$-te Beobachtung der $j$-ten Variable,
- $y_i$ ist der Wert der erklärten Variable der $i$-ten Beobachtung,
- $u_i$ ist der unbeobachtete Rauschterm der $i$-ten Beobachtung und
- $\mathfrak b = \left( \begin{array}{ccc} b_1& \ldots & b_K \end{array} \right)'$ ist der Vektor mit den Modellparametern ist.
In Matrix-Schreibweise ist das Modell
$$\mathfrak Y = \mathfrak X\mathfrak b+ \mathfrak u$$wobei
- $\mathfrak Y= \left( \begin{array}{ccc} y_1& \ldots & y_N \end{array} \right)'$ der $(N\times 1)$ Matrix der erklärten Variable,
- $\mathfrak X= \left( \begin{array}{ccc} \mathfrak x_1'& \ldots & \mathfrak x_N' \end{array} \right)'$ ist die $(N\times K)$ Matrix der erklärenden Variablen und
- $\mathfrak U = \left( \begin{array}{ccc} u_1& \ldots & u_N \end{array} \right)'$ der $(N\times 1)$ Matrix der unbeobachteten Rauschterme.
Schätzung
Der durch die Methode der kleinsten Quadrate erhaltende Werte für die Koeffizienten $\mathfrak b$ ergeben sich wie folgt
$$\hat{\mathfrak b} = (\mathfrak X'\mathfrak X)^{-1}\mathfrak X'\mathfrak Y$$