Regressionsparameter

Regressionsparameter, auch Regressionskoeffizienten oder Regressionsgewichte genannt, sind die Parameter einer Regressionsgleichung. In einem linearen Regressionsmodell beschreiben die Koeffizienten der Regressoren, wie sich der bedingte Erwartungswert der abhängigen Variablen bei einer Änderung des jeweiligen Regressors verändert, wenn die übrigen Regressoren konstant gehalten werden.<ref name="Bortz" details="S. 342–346." /><ref name="Hanck" />

Bei einer multiplen linearen Regression kann es sinnvoll sein, neben den unstandardisierten auch standardisierte Regressionskoeffizienten zu betrachten. Sie ermöglichen insbesondere den Vergleich von Regressoren, die in unterschiedlichen Einheiten gemessen werden.<ref name="Bortz" details="S. 345–346." /><ref name="Navarro" />

Interpretation des Absolutglieds und der Steigung

Gegeben sei das multiple lineare Modell

<math>y_i=\beta_0+x_{i1}\beta_1+\dotsc+x_{ik}\beta_k+\varepsilon_i=\mathbf{x}_i^\top\boldsymbol{\beta}+\varepsilon_i</math>

beziehungsweise in Matrixschreibweise

<math>\mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\varepsilon}.</math>

Den Parameter <math>\beta_0</math> bezeichnet man als Niveauparameter, Achsenabschnitt, Absolutglied, Regressionskonstante oder kurz Konstante (englisch intercept). Die Parameter <math>\beta_1,\dotsc,\beta_k</math> nennt man Steigungsparameter oder Steigungskoeffizienten (englisch slope coefficients). Die <math>\varepsilon_i</math> sind Störgrößen.<ref name="Hanck" />

Die <math>\beta_j</math> sind unbekannte Parameter der Grundgesamtheit. Sie werden anhand einer Stichprobe geschätzt; für die Schätzwerte werden beispielsweise <math>\hat{\beta}_j</math> oder <math>b_j</math> verwendet. Bei der Methode der kleinsten Quadrate werden die Koeffizienten so bestimmt, dass die Summe der quadrierten Residuen minimiert wird.<ref name="Hanck" />

Man unterscheidet bei der Interpretation der Regressionskoeffizienten unter anderem danach, ob die Variablen in ihrer ursprünglichen Form oder transformiert in das Modell eingehen.

Level-Level-Transformation

Sind die abhängige und die erklärenden Variablen untransformiert, gilt

<math>\operatorname{E}(y_i\mid\mathbf{x}_i)=\beta_0+x_{i1}\beta_1+\dotsc+x_{ik}\beta_k.</math>

Damit gilt für den Niveauparameter

<math>\beta_0=\operatorname{E}(y_i\mid x_{i1}=x_{i2}=\dotsc=x_{ik}=0)</math>

und für die Steigungsparameter

<math>\beta_j=\frac{\partial\,\operatorname{E}(y_i\mid\mathbf{x}_i)}{\partial x_{ij}},\qquad j=1,\ldots,k.</math>

Der Niveauparameter gibt somit den erwarteten Wert der abhängigen Variable an, wenn alle Regressoren den Wert null annehmen. Diese Interpretation ist inhaltlich allerdings nur sinnvoll, wenn der Wert null für die betreffenden Regressoren eine sinnvolle Ausprägung darstellt.<ref name="ModernDive" />

Für den jeweiligen Steigungsparameter <math>\beta_j</math> gilt: Erhöht sich <math>x_{ij}</math> ceteris paribus um eine Einheit, verändert sich der bedingte Erwartungswert von <math>y_i</math> um <math>\beta_j</math> Einheiten.<ref name="Bortz" details="S. 343–344." /><ref name="Hanck" />

Log-Log-Transformation

Werden sowohl die abhängige Variable als auch die betrachteten erklärenden Variablen logarithmiert, kann ein Log-Log-Modell beispielsweise in der Form

<math>\ln(y_i)=\beta_0+\beta_1\ln(x_{i1})+\dotsc+\beta_k\ln(x_{ik})+\varepsilon_i</math>

geschrieben werden. Die logarithmierten Variablen müssen dabei positive Werte annehmen.

Der Steigungsparameter <math>\beta_j</math> lässt sich in einem solchen Modell als Elastizität interpretieren: Eine Erhöhung von <math>x_{ij}</math> um ein Prozent ist ceteris paribus mit einer Änderung von <math>y_i</math> um ungefähr <math>\beta_j</math> Prozent verbunden.<ref name="OpenStax" />

Standardisierte Regressionskoeffizienten

Standardisierte Regressionskoeffizienten, auch Beta-Gewichte genannt, ergeben sich aus einer linearen Regression, bei der die abhängige und die metrischen unabhängigen Variablen standardisiert werden. Dadurch sind die Koeffizienten nicht mehr von den ursprünglichen Maßeinheiten der Variablen abhängig.<ref name="Bortz" details="S. 345–346." /><ref name="Navarro" />

Bortz und Schuster bezeichnen die standardisierten Stichprobenkoeffizienten mit <math>B_j</math>, um sie von den mit <math>\beta_j</math> bezeichneten Parametern der Grundgesamtheit zu unterscheiden.<ref name="Bortz" details="S. 346." />

Ein standardisierter Regressionskoeffizient kann aus dem unstandardisierten Regressionskoeffizienten berechnet werden als

<math>B_j=b_j\cdot\frac{s_{x_j}}{s_y},</math>

wobei <math>b_j</math> der unstandardisierte Regressionskoeffizient, <math>s_{x_j}</math> die Standardabweichung des jeweiligen Regressors und <math>s_y</math> die Standardabweichung der abhängigen Variable ist.<ref name="Bortz" details="S. 346." /><ref name="Navarro" />

Ein standardisierter Koeffizient von beispielsweise <math>B_j=0{,}5</math> bedeutet, dass eine Erhöhung des betreffenden Regressors um eine Standardabweichung bei konstant gehaltenen übrigen Regressoren mit einer Erhöhung der abhängigen Variable um <math>0{,}5</math> Standardabweichungen verbunden ist. Da standardisierte Koeffizienten keine Maßeinheit besitzen, lassen sich die Größen verschiedener Koeffizienten innerhalb eines Modells leichter miteinander vergleichen.<ref name="Bortz" details="S. 346 und 356–357." /><ref name="Scott" />

Der Betrag eines standardisierten Regressionskoeffizienten ist dabei nicht auf eins begrenzt.<ref name="Bortz" details="S. 346." /> Ein Koeffizient außerhalb des Intervalls von −1 bis 1 ist daher für sich genommen kein Nachweis für Multikollinearität. Diese wird vielmehr anhand der Abhängigkeiten zwischen den Regressoren beziehungsweise daraus abgeleiteten Größen wie der Toleranz untersucht.<ref name="Bortz" details="S. 354–356." />

Auch die Interpretation standardisierter Koeffizienten als Maß für die relative Bedeutung einzelner Regressoren ist mit Vorsicht vorzunehmen. Ihre Größe hängt unter anderem von den Verteilungen der Regressoren in der untersuchten Stichprobe ab.<ref name="Bortz" details="S. 356–357." /><ref name="Scott" />

Beispiel

Bortz und Schuster erläutern die multiple Regression anhand einer fiktiven Untersuchung zum Zusammenhang zwischen dem Body-Mass-Index (BMI), der Intensität eines Trainingsprogramms und der Qualität der Ernährung. Die Trainingsintensität wird dabei durch den täglichen Energieverbrauch in Einheiten von 100 Kilojoule gemessen, die Ernährungsqualität durch ein Expertenrating auf einer Skala von 1 bis 10.<ref name="Bortz" details="S. 343–344." />

Für die Trainingsintensität ergibt sich bei konstant gehaltener Ernährungsqualität ein unstandardisierter Regressionskoeffizient von <math>b_1=-0{,}750</math>. Für die Ernährungsqualität beträgt der Koeffizient bei konstanter Trainingsintensität <math>b_2=-1{,}032</math>.<ref name="Bortz" details="S. 344." />

Regressionskoeffizienten des Beispiels<ref name="Bortz" details="S. 343–350." />

Regressor	Unstandardisiert <math>b</math>	Standardfehler	Standardisiert <math>B</math>
Konstante	30,2	–	–
Trainingsintensität	−0,750	0,281	−0,454
Ernährungsqualität	−1,032	0,294	−0,597

Die unstandardisierten Koeffizienten beziehen sich auf die ursprünglichen Maßeinheiten. So bedeutet <math>b_1=-0{,}750</math> in diesem Beispiel, dass eine Erhöhung der Trainingsintensität um eine Einheit – entsprechend einem zusätzlichen Energieverbrauch von 100 Kilojoule pro Tag – bei unveränderter Ernährungsqualität mit einer Verringerung des vorhergesagten BMI um 0,75 Punkte verbunden ist.<ref name="Bortz" details="S. 344." />

Für die Trainingsintensität ergibt sich aus <math>b_1=-0{,}750</math>, <math>s_{x_1}=2{,}121</math> und <math>s_y=3{,}504</math> der standardisierte Koeffizient

<math>B_1=-0{,}750\cdot\frac{2{,}121}{3{,}504}=-0{,}454.</math>

Für die Ernährungsqualität ergibt sich entsprechend aus den angegebenen Werten gerundet <math>B_2=-0{,}597</math>.<ref name="Bortz" details="S. 343–346. Im Fließtext auf S. 346 wird für B₂ abweichend der Wert −0,579 angegeben; aus Gleichung (21.12) und den dort angegebenen Werten ergibt sich gerundet −0,597." />

Die standardisierten Werte sind hinsichtlich ihrer Größenordnung besser vergleichbar als die unstandardisierten Koeffizienten. Aus einem größeren Beta-Gewicht kann jedoch nicht ohne Weiteres auf eine entsprechend größere inhaltliche Bedeutung des Regressors geschlossen werden.<ref name="Bortz" details="S. 356–357." /><ref name="Scott" />

Einzelnachweise

<references> <ref name="Bortz"> Jürgen Bortz, Christof Schuster: Statistik für Human- und Sozialwissenschaftler. 7., vollständig überarbeitete und erweiterte Auflage. Springer, Berlin, Heidelberg 2010, ISBN 978-3-642-12769-4, doi:10.1007/978-3-642-12770-0.  </ref> <ref name="Hanck"> Christoph Hanck, Martin Arnold, Alexander Gerber, Martin Schmelzer: The Multiple Regression Model. In: Introduction to Econometrics with R. Abgerufen am 17. August 2026 ().  </ref> <ref name="Navarro"> </ref> <ref name="Scott"> James Scott: Regression. In: Data Science in R: A Gentle Introduction. Abgerufen am 17. August 2026 ().  </ref> <ref name="ModernDive"> Chester Ismay, Albert Y. Kim: Basic Regression. In: Statistical Inference via Data Science: A ModernDive into R and the Tidyverse. Abgerufen am 17. August 2026 ().  </ref> <ref name="OpenStax"> Alexander Holmes, Barbara Illowsky, Susan Dean: Interpretation of Regression Coefficients: Elasticity and Logarithmic Transformation. In: Introductory Business Statistics 2e. OpenStax, abgerufen am 17. August 2026 ().  </ref> </references>