Projektionsmatrix (Statistik)

Vorlage:Hinweisbaustein In der Statistik ist eine Projektionsmatrix eine symmetrische und idempotente Matrix.<ref>Vorlage:Cite book/URLVorlage:Cite book/Meldung2Vorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/Meldung</ref> Weiterhin sind alle Eigenwerte einer Projektionsmatrix entweder 0 oder 1 und Rang und Spur einer Projektionsmatrix sind identisch.<ref name="Caspary">Wilhelm Caspary: Fehlertolerante Auswertung von Messdaten, ".124</ref> Die einzige nichtsinguläre Projektionsmatrix ist die Einheitsmatrix. Alle anderen Projektionsmatrizen sind singulär. Die wichtigsten Projektionsmatrizen in der Statistik stellen die Prädiktionsmatrix <math>\boldsymbol P</math> und die residuenerzeugende Matrix bzw. Residualmatrix <math>\boldsymbol Q =\boldsymbol I-\boldsymbol P</math> dar. Sie sind ein Beispiel für eine Orthogonalprojektion im Sinne der linearen Algebra, wo jeder Vektor <math>y</math> eines Vektorraumes mit Skalarprodukt bei gegebener Projektionsmatrix <math>\boldsymbol P</math> in eindeutiger Weise zerlegt werden kann gemäß <math>y=\boldsymbol P y+(\boldsymbol I -\boldsymbol P)y</math>. Eine weitere in der Statistik wichtige Projektionsmatrix ist die zentrierende Matrix.

Ausgangslage

Als Ausgangslage betrachten wir ein typisches multiples lineares Regressionsmodell mit gegebenen Daten <math>\{y_i,x_{ik}\}_{i=1, \dots, n,k=1, \dots, K}</math> für <math>n</math> statistische Einheiten und <math>K</math> Regressoren. Der Zusammenhang zwischen der abhängigen Variablen und den unabhängigen Variablen kann wie folgt dargestellt werden

<math>y_i = \beta_0+ x_{i1} \beta_1 + x_{i2} \beta_2 + \ldots + x_{iK} \beta_K + \varepsilon_i = \mathbf x_{i}^{\top} \boldsymbol \beta + \varepsilon_i, \quad i=1, 2, \dotsc ,n</math>.

In Matrixnotation auch

{{{1}}}

mit <math>p=K+1</math>. In kompakter Schreibweise

{{{1}}}

.

Hier stellt <math>\boldsymbol\beta</math> einen Vektor von unbekannten Parametern dar (bekannt als Regressionskoeffizienten), die mithilfe der Daten geschätzt werden müssen. Des Weiteren wird angenommen, dass die Fehlerterme im Mittel null sind: <math>\mathbb{E}[\boldsymbol{\boldsymbol{\varepsilon}}]=\mathbf 0</math>, was bedeutet, dass wir davon ausgehen können, dass unser Modell im Mittel korrekt ist.

Prädiktionsmatrix

Eine der wichtigsten Projektionsmatrizen in der Statistik ist die Prädiktionsmatrix. Die Prädiktionsmatrix ist wie folgt definiert

<math>\boldsymbol P \equiv \mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\quad</math> mit <math>\quad\boldsymbol P \in \mathbb{R}^{n \times n}</math>,

wobei <math>\mathbf{X}</math> die Datenmatrix darstellt. Die Diagonalelemente der Prädiktionsmatrix <math>\boldsymbol P</math> werden <math>p_{ii}</math> genannt und können als Hebelwerte interpretiert werden.

Die Matrix <math>\boldsymbol P</math> bildet die Beobachtungen <math>\mathbf{y}</math> auf die vorhergesagten Werte <math>\mathbf{\hat{y}}</math> ab, denn <math>\mathbf{\hat{y}}</math> ist der orthogonale Projektionsvektor im Spaltenraum von <math>X</math>

<math>\mathbf{X}^{\top}(\mathbf{y}-\mathbf{\hat{y}})=0.</math>

Dies wird deutlich, wenn man den OLS-Schätzer <math>\hat{\boldsymbol{\beta}}</math> einsetzt

<math>\mathbf{\hat{y}}= \mathbf{X} \hat{\boldsymbol{\beta}}=\mathbf{X}\left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\mathbf{y} =\boldsymbol{P} \mathbf{y},</math>

somit

<math>\mathbf{\hat{y}}= \boldsymbol{P} \mathbf{y}.</math>

Residuenerzeugende Matrix

Die residuenerzeugende Matrix<ref>Peter Hackl: Einführung in die Ökonometrie. 2. aktualisierte Auflage, Pearson Deutschland GmbH, 2008., ISBN 978-3-86894-156-2, S. 75.</ref> (englisch residual-maker matrix), auch Residuum-erzeugende Matrix, Residualmatrix ist wie folgt definiert

<math>\boldsymbol Q = \left( \mathbf{I} - \mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\right)=\left( \mathbf{I} - \boldsymbol{P} \right) </math>,

wobei P die Prädiktionsmatrix darstellt. Der Name residuenerzeugende Matrix ergibt sich dadurch, dass diese Projektionsmatrix multipliziert mit dem y-Vektor den Residualvektor <math>\hat{\boldsymbol{\varepsilon}}</math> ergibt. Der kann durch die Prädiktionsmatrix kompakt wie folgt ausgedrückt werden

<math>\hat{\boldsymbol{\varepsilon}} = \mathbf{y} - \mathbf{\hat{y}} = \mathbf{y} -\boldsymbol{P} \mathbf{y} = \left( \mathbf{I} - \boldsymbol{P} \right) \mathbf{y}= \boldsymbol{Q}\mathbf{y}</math>.

Bei linearen Modellen sind Rang und Spur einer Projektionsmatrix identisch. Für den Rang der residuenerzeugenden Matrix gilt

<math>\begin{align}

                 \operatorname{Rang}(\boldsymbol Q)&=\operatorname{Spur}(\boldsymbol Q )\\
                  &=\operatorname{Spur}(\mathbf{I}-\mathbf{P}   )\\
                  &=\sum\nolimits_{i=1}^{n}(1-p_{ii})\\
                &=n-\sum\nolimits_{i=1}^{n}p_{ii}\\
        &=n-\operatorname{Spur}(\boldsymbol P )\\
   &=n-\operatorname{Rang}(\boldsymbol P )\\

&= n-p\\ &= n-(K+1) \end{align}</math>

Idempotenz

Die Idempotenzeigenschaft der residuenerzeugenden Matrix kann wie folgt gezeigt werden

<math>\begin{align}

                 \boldsymbol Q^2&=  \boldsymbol Q \cdot   \boldsymbol Q \\
                  &=\left( \mathbf{I} - \mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\right)\left( \mathbf{I} - \mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\right)\\
                  &=\mathbf{I} \mathbf{I} -\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1}\mathbf{X}^{\top} \mathbf{I}-\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1}\mathbf{X}^{\top}\mathbf{I}+\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\\
                &=\mathbf{I}  -\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1}\mathbf{X}^{\top} -\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1}\mathbf{X}^{\top}+\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\\
                  &= \mathbf{I}  -\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1}\mathbf{X}^{\top}\\

&=\left( \mathbf{I}- \boldsymbol P \right)\\ &= \boldsymbol Q

\qquad \Box

\end{align}</math>

Symmetrie

Die Symmetrie der residuenerzeugenden Matrix folgt direkt aus der Symmetrie der Prädiktionsmatrix und kann wie folgt gezeigt werden

<math>\begin{align}

                 \boldsymbol Q^{\top}&=\left(\mathbf{I}-\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\right)^{\top}\\
                  &=\ \mathbf{I}^{\top} -\left(\left(\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \right)\left(\mathbf{X}^{\top}\right)\right)^{\top}\\
                  &=\ \mathbf{I}-\left(\mathbf{X}^{\top}\right)^{\top}\left(\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \right)^{\top} \\
                &=\ \mathbf{I}-\mathbf{X}\left( \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \right)^{\top}\mathbf{X}^{\top}\\
                 &=\ \mathbf{I}-\mathbf{X} \left(\mathbf{X}^{\top} \mathbf{X} \right)^{-1} \mathbf{X}^{\top}\\

&=\left( \mathbf{I}- \boldsymbol P \right)\\

                  &= \boldsymbol Q  \qquad \Box

\end{align}</math>

Weitere Eigenschaften

Die Projektionsmatrix hat eine Fülle von nützlichen algebraischen Eigenschaften.<ref>Vorlage:Cite book/URLVorlage:Cite book/Meldung2Vorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/Meldung</ref><ref>Vorlage:Cite book/URLVorlage:Cite book/Meldung2Vorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/Meldung</ref> In der Sprache der linearen Algebra ist die Projektionsmatrix eine orthogonale Projektion auf den Spaltenraum der Datenmatrix <math>\mathbf{X}</math>. Weitere Eigenschaften der Projektionsmatrizen werden im Folgenden zusammengefasst:

• <math>\mathbf{u} = (\mathbf{I} - \mathbf{P})\mathbf{y},</math> und <math>\mathbf{u} = \mathbf{y} - \mathbf{P} \mathbf{y} \perp \mathbf{X}</math>
• <math>\mathbf{X}</math> ist invariant unter <math>\mathbf{P}</math> : <math>\mathbf{P X} = \mathbf{X},</math> folglich <math>\left( \mathbf{I} - \mathbf{P} \right) \mathbf{X} = \mathbf{0}</math>.
• <math>\left( \mathbf{I} - \mathbf{P} \right) \mathbf{P} = \mathbf{P} \left( \mathbf{I} - \mathbf{P} \right) = \mathbf{0}</math> („Anwendung der Regression auf die Residuen liefert <math>\hat y = 0</math>“)
• <math>\mathbf{P}</math> ist eindeutig für einen bestimmten Unterraum
• Alle Eigenwerte einer Projektionsmatrix sind entweder 0 oder 1

Anwendungen

Schätzung des Varianzparameters nach der Kleinste-Quadrate-Schätzung

Die Residuenquadratsumme, kurz SQR (Summe der Quadrate der Restabweichungen (oder: „Residuen“) bzw. englisch sum of squared residuals, kurz SSR) ergibt in Matrixschreibweise

<math>SQR := \hat{\boldsymbol \varepsilon}^{\top } \hat{\boldsymbol \varepsilon} = \mathbf {y}^{\top} (\mathbf I - \mathbf P)^{\top} (\mathbf I - \mathbf P) \mathbf y = \mathbf y^{\top} \boldsymbol Q \boldsymbol Q \mathbf y=\mathbf y^{\top} \boldsymbol Q \mathbf y</math>.

Dies kann auch geschrieben werden als

<math>SQR:= \hat{\boldsymbol \varepsilon}^{\top} \hat{\boldsymbol \varepsilon} = \|y-\hat{y} \|_2^2=\sum\limits_{i=1}^{n}(y_i-\hat{y}_i)^2</math>.

Eine erwartungstreue Schätzung der Varianz der Störgrößen ist das „mittlere Residuenquadrat“:

<math>\hat \sigma^2 = \frac{SQR}{n-p}=\frac{\sum\nolimits_{i=1}^{n}(y_i-\hat{y}_i)^2}{n-p}</math>.

Mithilfe der residuenerzeugenden Matrix lässt sich die Varianz der Fehlerterme auch schreiben als

<math>\hat \sigma^2 = \frac{\mathbf y^{\top} \boldsymbol Q \mathbf y}{n-p}=\frac{\mathbf y^{\top} \boldsymbol Q \mathbf y}{\operatorname{Rang}(\boldsymbol Q)}</math>.

Einzelnachweise

<references />