Normalverteilungsmodell

Als Normalverteilungsmodell<ref name="Rüschendorf96" /> oder Gauß’sches Produktmodell<ref name="Georgii205" /> bezeichnet man in der Statistik ein spezielles statistisches Modell, das sich durch einfache Modellannahmen auszeichnet. Dabei soll einerseits die Erhebung der Daten stochastisch unabhängig voneinander sein, andererseits sollen die Daten alle normalverteilt sein, je nach Präzisierung mit einem oder zwei unbekannten Parametern.

Die Bedeutung des Normalverteilungsmodells ergibt sich sowohl aus der Tatsache, dass es ein sehr gut untersuchtes Modell ist, für das gute Parameterschätzer, Konfidenzintervalle und Tests angegeben werden können, als auch aus der Sonderstellung der Normalverteilung, die sich nach dem zentralen Grenzwertsatz immer dann einstellt, wenn sich viele, voneinander unabhängige zufällige Einflüsse überlagern.

Es lassen sich drei Fälle unterscheiden:

• Man geht von einem bekannten Erwartungswert der Normalverteilungen aus und versucht, Aussagen über die Varianz zu treffen. Beispiel hierfür wäre die Eichung einer Waage mit einem vorgegebenen genormten Gewicht.
• Man geht von einer bekannten Varianz der Normalverteilungen aus und versucht, Aussagen über den Erwartungswert zu treffen. Dieser Fall würde beispielsweise eintreten bei einer Messung mit einem Messinstrument bekannter Ungenauigkeit, die vom Hersteller angegeben ist.
• Sowohl Varianz als auch Erwartungswert sind unbekannt. Ein Beispiel für diesen Fall wäre die Schätzung der Schuhgröße von Männern: Weder ist klar, welche Schuhgröße ein Mann „im Mittel“ hat, noch ist klar, wie sehr die Schuhgrößen streuen.

Für die drei Fälle stehen jeweils unterschiedliche Methoden zur Verfügung.

Erwartungswert bekannt und Varianz unbekannt

Bei bekanntem Erwartungswert und unbekannter Varianz werden die Rahmenbedingungen wie folgt formalisiert: Das statistische Modell ist gegeben durch

<math>( \R^n, \mathcal B (\R^n), \mathcal P ) </math>,

wobei die Verteilungsklasse genauer als

<math> \mathcal P = \{ \mathcal N^{\otimes n}( \mu_0, \sigma^2) \; | \; \sigma^2 \in (0, \infty) \}</math>

definiert ist. Hierbei ist <math> \mu_0 </math> der bekannte Erwartungswert. Mit <math> P^{\otimes n} </math> sei das n-fache Produktmaß des Wahrscheinlichkeitsmaßes <math> P </math> bezeichnet. Es handelt sich bei dem Modell folglich um ein einparametriges Modell und ein Produktmodell. Die Verteilungsklasse ist Teil der einparametrigen Exponentialfamilie, denn die Wahrscheinlichkeitsdichte <math> \phi(x) </math> der Normalverteilung besitzt eine Darstellung als

<math> \phi(x)= \exp (a(\sigma)\cdot b(x)+ c(\sigma) ) </math> mit <math>a(\sigma)= -\frac{1}{2 \sigma^2}, \; b(x)= (x-\mu_0)^2 \;</math> und <math> c(\sigma)=- \tfrac 12 \ln (2 \pi \sigma)</math>.

Damit erhält man für die Wahrscheinlichkeitsdichte auf dem gesamten Raum die Darstellung

<math> f(x)=\exp \left( -\frac{1}{2 \sigma^2} \sum_{i=1}^n (x_i-\mu_0)^2 - \tfrac n2 \ln (2 \pi \sigma^2)\right) </math>.

Geschätzt werden soll die unbekannte Varianz, die zu schätzende Parameterfunktion ist somit gegeben durch

<math> g( \sigma^2)= \sigma^2 </math>.

Parameterschätzung

Sowohl die Maximum-Likelihood-Methode als auch die Momentenmethode liefern als Schätzer für die unbekannte Varianz die (nicht korrigierte)Stichprobenvarianz

<math> V(X)=\frac{1}{n} \sum_{i=1}^n (X_i - \mu_0)^2 </math>.

Sie ist erwartungstreu. Die Suffizienz dieser Schätzfunktion folgt aus der Darstellung der Normalverteilung als Teil der Exponentialfamilie und der entsprechenden kanonischen Statistik. Außerdem ist der Schätzer auch vollständig<ref name="Rüschendorf110" /> und somit nach dem Satz von Lehmann-Scheffé ein gleichmäßig bester erwartungstreuer Schätzer.

Konfidenzintervalle

Konfidenzintervalle für die unbekannte Varianz beruhen auf der Pivot-Statistik

<math> T(X, \sigma^2)= \sum_{i=1}^n \left( \frac{X_i- \mu_0}{\sigma}\right)^2 = \frac{n}{\sigma^2}\cdot V(X)</math>.

Sie ist Chi-Quadrat-verteilt mit <math> n </math> Freiheitsgraden, also <math> T(X, \sigma^2) \sim \chi^2_n </math>. Ein beidseitiges Konfidenzintervall zum Konfidenzniveau <math> 1- \alpha </math> ist somit gegeben durch<ref name="Czado143" />

<math> C(X)= \left[ \frac{n }{\chi^2_{n; 1- \alpha/2}}V(X); \frac{n }{\chi^2_{n; \alpha/2}}V(X)\right] </math>.

Hierbei ist <math> \chi^2_{n,\alpha} </math> das <math> \alpha</math>-Quantil der Chi-Quadrat-Verteilung mit <math> n</math> Freiheitsgraden. Die konkreten Werte der Quantile können in der Quantiltabelle der Chi-Quadrat-Verteilung nachgeschlagen werden.

Testen

Für Einstichprobenprobleme existiert der Chi-Quadrat-Test zur Prüfung einer Varianz, für Zweistichprobenprobleme der F-Test zum Vergleich zweier Varianzen.<ref name="Rüschendorf196" />

Varianz bekannt und Erwartungswert unbekannt

Ist die Varianz bekannt und der Erwartungswert unbekannt, so werden die Rahmenbedingungen wie folgt formalisiert: das statistische Modell gegeben durch

<math>( \R^n, \mathcal B (\R^n), \mathcal P ) </math>,

wobei die Verteilungsklasse genauer als

<math> \mathcal P = \{\mathcal N^{\otimes n} (\mu, {\sigma_0}^2 ) \; | \; \mu \in \R \} </math>

definiert ist. Hierbei bezeichnet <math> \sigma_0 </math> die bekannte Varianz. Es handelt sich bei dem Modell folglich um ein einparametriges Modell und ein Produktmodell. Genauso ist die Verteilungsklasse ein Teil der einparametrigen Exponentialfamilie, denn die Wahrscheinlichkeitsdichte <math> \phi(x) </math> der Normalverteilung besitzt eine Darstellung als

<math> \phi(x)= \exp (a(\mu)\cdot b(x)+ c(\mu)+ d(x) ) </math> mit <math>a(\mu)= \frac{\mu}{\sigma_0^2}, \; b(x)= x, \;c(\mu)=- \tfrac{\mu^2}{2 \sigma_0^2}</math> und <math> d(x)=- \left( \tfrac{x^2}{2 \sigma_0^2}+ \tfrac 12 \ln (2 \pi \sigma_0^2)\right)</math>.

Damit erhält man für die Wahrscheinlichkeitsdichte auf dem gesamten Raum die Darstellung

<math> f(x)=\exp \left( \frac{\mu}{\sigma_0^2} \sum_{i=1}^n x_i + n \cdot c(\mu) - \left( \tfrac n2 \ln (2 \pi \sigma_0^2)+\sum_{i=i}^n\tfrac{x_i^2}{2 \sigma_0^2} \right) \right) </math>

Geschätzt werden soll der unbekannten Erwartungswert, die zu schätzende Parameterfunktion ist somit gegeben durch

<math> g(\mu)=\mu </math>.

Parameterschätzung

Sowohl die Maximum-Likelihood-Methode als auch die Momentenmethode liefern als Schätzfunktion für den Erwartungswert das Stichprobenmittel

<math> \overline X = \frac 1n \sum_{i=1}^n X_i</math>

der Stichprobe. Dabei folgt der Maximum-Likelihood-Schätzer beispielsweise durch Bestimmen des Maximums der Log-Likelihood-Funktion, der Momentenschätzer folgt direkt aus der Tatsache, dass es sich bei dem arithmetischen Mittel um das erste empirische Moment handelt und mit dem Erwartungswert das erste stochastische Moment geschätzt werden soll.

Der Schätzer ist erwartungstreu. Da es sich um außerdem um die kanonische Statistik der Exponentialfamilie handelt, ist er auch suffizient. Außerdem ist der Schätzer auch vollständig<ref name="Rüschendorf110" /> und somit nach dem Satz von Lehmann-Scheffé ein gleichmäßig bester erwartungstreuer Schätzer.

Konfidenzintervalle

Die Konfidenzintervalle bei bekannter Varianz <math>\sigma_0^2 </math> beruhen auf der Pivotstatistik<ref name="Rüschendorf231" />

<math> T(X, \mu)= \frac{\sqrt n (\overline X - \mu)}{ \sigma_0} </math>.

Sie ist standardnormalverteilt, also <math> T(X, \mu) \sim \mathcal N(0,1) </math> für alle <math> \mu </math>.

Es bezeichne <math> u_\alpha </math> das <math> \alpha </math>-Quantil der Standardnormalverteilung. Dieses kann der Quantiltabelle der Standardnormalverteilung entnommen werden. Dann ist ein rechtsseitig unbeschränktes Konfidenzintervall für den unbekannten Erwartungswert zum Konfidenzniveau <math> 1- \alpha </math> gegeben durch

<math> C_1(X)= \left[ \overline X- \tfrac{\sigma_0 }{\sqrt n} u_{1- \alpha}; \infty \right) </math>.

Analog ergibt sich ein linksseitig unbeschränktes Konfidenzintervall für den unbekannten Erwartungswert zum Konfidenzniveau <math> 1- \alpha </math> durch

<math> C_2(X)= \left(- \infty; \overline X +\tfrac{\sigma_0 }{\sqrt n }u_{1-\alpha} \right]</math>.

Ein zweiseitiges Konfidenzintervall zum Konfidenzniveau <math> 1- \alpha </math> ist gegeben durch

<math> C_3(X)= \left[ \overline X- \tfrac{\sigma_0 }{\sqrt n} u_{1- \alpha/2}; \overline X+ \tfrac{\sigma_0 }{\sqrt n} u_{1- \alpha/2}\right] </math>.

Testen

Für Einstichprobenprobleme existiert der Einstichproben Gauß-Test und der Einstichproben-t-Test, für Zweistichprobenprobleme der Zweistichproben Gauß-Test.<ref name="Rüschendorf196" />

Varianz und Erwartungswert unbekannt

Sind Erwartungswert und Varianz unbekannt, so werden die Rahmenbedingungen wie folgt formalisiert: das statistische Modell ist gegeben durch

<math>( \R^n, \mathcal B (\R^n), \mathcal P ) </math>,

wobei die Verteilungsklasse genauer als

<math> \mathcal P = \{ \mathcal N^{\otimes n}( \mu, \sigma^2 ) \mid \sigma^2 \in (0, \infty) , \mu \in \R \}</math>

definiert ist. Es handelt sich hierbei dann um ein parametrisches Modell und ein Produktmodell. Die Verteilungsklasse ist Teil der zweiparametrigen Exponentialfamilie, da für die Wahrscheinlichkeitsdichte der Normalverteilung

<math> \phi(x) = \exp \left( a_1( \mu, \sigma) \cdot b_1(x) + a_2( \mu, \sigma) \cdot b_1(x) + c(\mu, \sigma) \right)</math> mit <math> a_1( \mu, \sigma)= \tfrac{\mu}{\sigma^2}, a_2(\mu, \sigma)= - \tfrac{1}{2 \sigma^2}, b_1(x)=x, b_2(x)= x^2 </math> und <math> c(\mu, \sigma)= - \tfrac{\mu^2}{2\sigma^2}- \tfrac 12 \ln (2 \pi \sigma^2)</math>

gilt.

Geschätzt werden soll Erwartungswert und Varianz, die zu schätzenden Parameterfunktionen sind somit gegeben durch

<math> g_1(\mu; \sigma^2)=\mu </math> und <math> g_2(\mu; \sigma^2)=\sigma^2 </math>.

Parameterschätzung

Die Maximum-Likelihood-Methode und die Momentenmethode liefern als Schätzfunktion für den unbekannten Erwartungswert das Stichprobenmittel

<math> \overline X = \frac{1}{n}\sum_{i=1}^n X_i </math>.

Dieser Schätzer ist erwartungstreu.

Sowohl die Maximum-Likelihood-Methode und die Momentenmethode liefern die (nicht korrigierte)Stichprobenvarianz

<math> V(X)=\tfrac {1}{n} \sum_{i=1}^n (X_i- \overline X)^2 </math>

als Schätzfunktion für die unbekannte Varianz. Sie ist nicht erwartungstreu, sondern nur asymptotisch Erwartungstreu. Daher führt man die Bessel-Korrektur ein und erhält somit als erwartungstreuen Schätzer die korrigierte Stichprobenvarianz

<math> V^*(X)=\tfrac {1}{n-1} \sum_{i=1}^n (X_i- \overline X)^2 </math>.

Sie ist eine erwartungstreue Schätzfunktion für die unbekannte Varianz.

Konfidenzintervalle

Konfidenzintervalle für den Erwartungswert, also für <math> g(\mu, \sigma^2)=\mu </math>, beruhen in diesem Modell auf der Pivotstatistik<ref name="Rüschendorf231" />

<math> T(X, \mu)=\sqrt n \frac{\overline X - \mu}{S_n^*(X)} </math>,

wobei

<math> S_n^*(X)= \sqrt{\frac{1}{n-1}\sum_{i=1}^n (X_i-\overline X )^2} </math>

ist. Als einseitiges Konfidenzintervall für den Erwartungswert zum Konfidenzniveau <math> 1- \alpha </math> erhält man damit

<math> C_1(X)= \left[\overline X - \frac{S_n^*(X)}{\sqrt n } t_{n-1; 1- \alpha}; \infty \right) </math>,

als zweiseitiges Konfidenzintervall für den Erwartungswert zum Konfidenzniveau <math> 1- \alpha </math> erhält man

<math> C_2(X)= \left[ \overline X - \frac{S^*_n}{\sqrt n } t_{n-1; 1- \alpha/2};\overline X - \frac{S^*_n}{\sqrt n } t_{n-1; \alpha/2} \right] </math>

Hierbei ist <math> t_{n, \alpha} </math> das <math> \alpha </math>-Quantil der Studentschen t-Verteilung mit n Freiheitsgraden. Die konkreten Werte der Quantile können in der Quantiltabelle der Studentschen t-Verteilung nachgeschlagen werden.

Konfidenzintervalle für die Varianz, also für <math> g(\mu, \sigma^2)=\sigma^2 </math>, beruhen auf der Pivotstatistik<ref name="Rüschendorf231" />

<math> T(X, \sigma^2)=\left( \frac{S_n^*}{\sigma }\right)^2 </math>.

Sie liefert das einseitige Konfidenzintervall für die Varianz zum Konfidenzniveau <math> 1- \alpha </math>

<math> C_3(X)= \left[ 0; \frac{1}{\chi^2_{n-1; \alpha}}\sum_{i=1}^n (X_i-\overline X)^2 \right)</math>,

und das zweiseitige Konfidenzintervall für die Varianz zum Konfidenzniveau <math> 1- \alpha </math>

<math> C_4(X)= \left( \frac{1}{\chi^2_{n-1; 1- \alpha/2}}\sum_{i=1}^n (X_i-\overline X)^2; \frac{1}{\chi^2_{n-1; \alpha/2}}\sum_{i=1}^n (X_i-\overline X)^2 \right)</math>

Hierbei ist <math> \chi^2_{n,\alpha} </math> das <math> \alpha</math> -Quantil der Chi-Quadrat-Verteilung mit <math> n</math> Freiheitsgraden. Die konkreten Werte der Quantile können in der Quantiltabelle der Chi-Quadrat-Verteilung nachgeschlagen werden.

Testen

Für Einstichprobenprobleme existiert für die Varianz der Chi-Quadrat-Test zur Prüfung einer Varianz. Für Zweistichprobenprobleme existiert für die Varianz der F-Test zum Vergleich zweier Varianzen, für den Erwartungswert siehe Behrens-Fisher-Problem.<ref name="Rüschendorf196" />

Einzelnachweise

<references> <ref name="Georgii205" > Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, S. 205, doi:10.1515/9783110215274.  </ref> <ref name="Rüschendorf96" > Ludger Rüschendorf: Mathematische Statistik. Springer Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-41996-6, S. 96, doi:10.1007/978-3-642-41997-3.  </ref> <ref name="Rüschendorf196" > Ludger Rüschendorf: Mathematische Statistik. Springer Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-41996-6, S. 196, doi:10.1007/978-3-642-41997-3.  </ref> <ref name="Czado143" > Claudia Czado, Thorsten Schmidt: Mathematische Statistik. Springer-Verlag, Berlin Heidelberg 2011, ISBN 978-3-642-17260-1, S. 143–144, doi:10.1007/978-3-642-17261-8.  </ref> <ref name="Rüschendorf231" > Ludger Rüschendorf: Mathematische Statistik. Springer Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-41996-6, S. 231–232, doi:10.1007/978-3-642-41997-3.  </ref> <ref name="Rüschendorf110" > Ludger Rüschendorf: Mathematische Statistik. Springer Verlag, Berlin Heidelberg 2014, ISBN 978-3-642-41996-6, S. 110–111, doi:10.1007/978-3-642-41997-3.  </ref> </references>