Determinationskoeffizient

Der vom Modell erfasste Anteil der Streuung

Nachdem wir eine lineare Regressionsgerade angepasst haben, stellt sich die nächste Frage: Wie viel von der beobachteten Streuung erfasst dieses Modell?

Das passende Maß heißt Determinationskoeffizient und wird meist mit $R^2$ bezeichnet. Für die einfache lineare Regression mit einem Prädiktor und einem Achsenabschnitt, die wir hier betrachten, gilt $R^2=r^2$. Wir können den Wert also berechnen, indem wir den Pearson-Korrelationskoeffizienten quadrieren.

Der Wert $r^2$ gibt den Anteil oder Prozentsatz der beobachteten Streuung der abhängigen Variablen $Y$ an, den das angepasste lineare Modell mithilfe von $X$ erfasst.

Bestimmtheitskoeffizient aus einem Streudiagramm

Der Wert von $r^2$ lässt sich im Streudiagramm daran erkennen, wie dicht die Datenpunkte an der Regressionsgeraden liegen:

Die gestrichelten Strecken zeigen die vertikalen Residuen, also die Differenzen zwischen beobachteten und vorhergesagten Werten an derselben horizontalen Position. Vergleiche ihre Längen mit der gesamten Streuung der Zielwerte. Der Determinationskoeffizient fasst diesen Vergleich der Streuung in einer Zahl zusammen.

Ein Modell erfasst fast die gesamte Streuung

Für diese Punkte ergibt die Rechnung $R^2\approx0{,}997$, also $99{,}7\%$. Die dichte Lage an der Regressionsgeraden passt zu diesem Wert: Das Modell erfasst fast die gesamte beobachtete Streuung von $Y$.

Ein Modell erfasst wenig Streuung

Für den zweiten Datensatz gilt $R^2\approx0{,}078$, also $7{,}8\%$. Die längeren Residuen passen zu diesem niedrigen Wert: Das lineare Modell erfasst nur einen kleinen Teil der beobachteten Streuung von $Y$.

Den Determinationskoeffizienten berechnen

Im einfachen linearen Modell erhalten wir $r^2$, indem wir den bereits bekannten Korrelationskoeffizienten quadrieren.

Wenn $r$ schon bekannt ist, quadrieren wir den Wert, um $r^2$ zu erhalten.

Für einen definierten Korrelationskoeffizienten gilt $-1 \le r \le 1$. Sein Quadrat liegt daher zwischen null und eins:

Berechnung mit Abweichungssummen:

Wir können $r^2$ auch direkt aus denselben Abweichungssummen berechnen, die in der Formel für $r$ vorkommen:

Die $SS$-Terme fassen Abweichungen von den Mittelwerten zusammen. Berechne die Abweichungen jedes Datenpaares, bevor du ihre Quadrate oder Produkte addierst:

Beim zweiten dargestellten Datensatz gilt $\bar x=4{,}5$ und $\bar y=5$. Das erste Paar $(1,2)$ trägt beispielsweise $(1-4{,}5)^2=12{,}25$ zu $SS_{xx}$, $(2-5)^2=9$ zu $SS_{yy}$ und $(1-4{,}5)(2-5)=10{,}5$ zu $SS_{xy}$ bei. Über alle acht Paare ergeben sich:

Dieses Verhältnis setzt Streuung in beiden Variablen voraus, also $SS_{xx}>0$ und $SS_{yy}>0$. Sind alle $y$-Werte identisch, ist die Gesamtstreuung null und das übliche Verhältnis für den Determinationskoeffizienten nicht definiert.

Interpretation als Prozentsatz

Multipliziere $r^2$ mit $100$, um den vom Modell erfassten Anteil der Streuung von $Y$ als Prozentsatz anzugeben.

• Bei $r^2 = 0{,}81$ erfasst das lineare Regressionsmodell $81\%$ der beobachteten Streuung von $Y$ mithilfe von $X$.
• Die übrige Streuung, hier $1 - r^2$ beziehungsweise $19\%$, wird von diesem linearen Modell nicht erfasst. Dahinter können nicht berücksichtigte Variablen, ein nichtlinearer Zusammenhang, Messfehler oder zufällige Schwankungen stehen. Aus $r^2$ allein lässt sich die Ursache nicht ablesen.

Ein höheres $r^2$ bedeutet, dass dieses Modell mehr von der beobachteten Streuung in $Y$ erfasst. Es beweist weder einen Ursache-Wirkungs-Zusammenhang noch automatisch zuverlässige Vorhersagen. Dafür müssen wir zusätzlich die Residuen, den Datenbereich und die Angemessenheit eines linearen Modells prüfen.