# Methode der kleinsten Quadrate > For AI agents: use [llms.txt](https://nakafa.com/llms.txt) for the site index. Markdown versions are available by appending `.md` to content URLs or sending `Accept: text/markdown`. URL: https://nakafa.com/de/faecher/mathematik/regression-und-korrelation/methode-der-kleinsten-quadrate Source: https://raw.githubusercontent.com/nakafaai/aksara/16d6b8e869d1a277313c65bbfc4b4a83efe77a46/packages/corpus/material/lesson/mathematics/statistics-regression/least-squares-method/de.mdx Lerne, wie die Methode der kleinsten Quadrate eine Regressionsgerade durch die Minimierung quadrierter Residuen bestimmt. --- ## Was ist die Methode der kleinsten Quadrate? Angenommen, Beobachtungs- oder Versuchsdaten bestehen aus Wertepaaren $$(x, y)$$. Folgt ihr Streudiagramm einem annähernd geradlinigen Trend, lassen sich viele verschiedene Geraden durch die Punktwolke legen. Visible text: Angenommen, Beobachtungs- oder Versuchsdaten bestehen aus Wertepaaren . Folgt ihr Streudiagramm einem annähernd geradlinigen Trend, lassen sich viele verschiedene Geraden durch die Punktwolke legen. Nun gibt es viele Geraden, die wir durch die Punktwolke legen könnten. Welche davon beschreibt den gesamten Datensatz **am besten**? Die **Methode der kleinsten Quadrate** beantwortet diese Frage mit einem eindeutigen Kriterium: Die Summe der quadrierten vertikalen Residuen soll möglichst klein sein. Die dadurch bestimmte Steigung ist eindeutig, solange die beobachteten $$x$$-Werte nicht alle gleich sind. Visible text: Die **Methode der kleinsten Quadrate** beantwortet diese Frage mit einem eindeutigen Kriterium: Die Summe der quadrierten vertikalen Residuen soll möglichst klein sein. Die dadurch bestimmte Steigung ist eindeutig, solange die beobachteten -Werte nicht alle gleich sind. ## Minimierung quadrierter Residuen Die angepasste Gerade wird über das vertikale **Residuum** an jedem beobachteten Punkt festgelegt: 1. **Vorhersagegerade:** Wir betrachten eine Gerade der Form $$\hat{y} = a + bx$$. 2. **Residuum:** Für jeden beobachteten Wert $$y_i$$ liefert die Gerade einen vorhergesagten Wert $$\hat{y}_i$$. Ihre vorzeichenbehaftete vertikale Differenz heißt **Residuum**: ```math e_i = y_i - \hat{y}_i ``` 3. **Quadratsumme minimieren:** Gesucht ist die Gerade, für die die **Summe aller quadrierten Residuen** $$\sum e_i^2$$ **so klein wie möglich** wird. Daher stammt der Name der Methode. Visible text: 1. **Vorhersagegerade:** Wir betrachten eine Gerade der Form . 2. **Residuum:** Für jeden beobachteten Wert liefert die Gerade einen vorhergesagten Wert . Ihre vorzeichenbehaftete vertikale Differenz heißt **Residuum**: 3. **Quadratsumme minimieren:** Gesucht ist die Gerade, für die die **Summe aller quadrierten Residuen** **so klein wie möglich** wird. Daher stammt der Name der Methode. **Warum die Residuen quadrieren?** - Durch das Quadrieren können sich positive und negative Residuen nicht gegenseitig aufheben. - Große Residuen gehen wegen der Quadrierung besonders stark in die Summe ein. ## Visualisierungsbeispiel Ein Unternehmen untersucht beispielsweise den Zusammenhang zwischen Werbekosten in Millionen Rupiah und Verkaufszahlen in Tausend Stück. Das Streudiagramm zeigt die erhobenen Daten, die Regressionsgerade und die vertikalen Residuen. Component: ScatterDiagram Props: - title: Regressionsgerade für Werbekosten und Verkaufszahlen - description: Die Gerade beschreibt den linearen Trend und minimiert die Summe der quadrierten vertikalen Residuen. - xAxisLabel: Werbekosten (Millionen Rupiah) - yAxisLabel: Produktverkäufe (in Tausend Einheiten) - datasets: [ { name: "Marketingdaten", color: "var(--chart-1)", points: [ { x: 2, y: 50 }, { x: 3, y: 65 }, { x: 4, y: 42 }, { x: 4.5, y: 75 }, { x: 5, y: 70 }, { x: 6, y: 90 }, { x: 7, y: 85 }, { x: 7.5, y: 65 }, { x: 8, y: 112 }, { x: 9, y: 115 }, { x: 10, y: 105 }, { x: 11, y: 125 }, ], }, ] - calculateRegressionLine: true - showResiduals: true - regressionLineStyle: { color: "var(--chart-4)", } Die eingezeichnete Gerade ist die mit der Methode der kleinsten Quadrate bestimmte _Regressionsgerade_. Sie fasst den allgemeinen linearen Trend zusammen. Die gestrichelten Strecken sind die Residuen, deren Quadratsumme minimiert wird. ## Mathematische Basis Mathematisch suchen wir eine Gerade der Form: ```math \hat{y} = a + bx ``` Der Achsenabschnitt $$a$$ und die Steigung $$b$$ werden so gewählt, dass Visible text: Der Achsenabschnitt und die Steigung werden so gewählt, dass ```math \sum e_i^2 = \sum (y_i - \hat{y}_i)^2 = \sum (y_i - (a + bx_i))^2 ``` möglichst klein wird. Mit Differenzialrechnung lassen sich daraus Formeln für $$a$$ und $$b$$ ableiten. Die Herleitung benötigen wir an dieser Stelle noch nicht: Visible text: Mit Differenzialrechnung lassen sich daraus Formeln für und ableiten. Die Herleitung benötigen wir an dieser Stelle noch nicht: Component: MathContainer Children: ```math b = \frac{n(\sum xy) - (\sum x)(\sum y)}{n(\sum x^2) - (\sum x)^2} ``` ```math a = \bar{y} - b\bar{x} ``` Dabei bedeutet: - $$n$$ = Anzahl der Datenpaare. - $$\sum x$$, $$\sum y$$ = Summe aller $$x$$- beziehungsweise $$y$$-Werte. - $$\sum xy$$ = Summe der Produkte der zusammengehörigen $$x$$- und $$y$$-Werte. - $$\sum x^2$$ = Summe der quadrierten $$x$$-Werte. - $$\bar{x}$$ = Mittelwert von $$x$$ ($$\frac{\sum x}{n}$$ ). - $$\bar{y}$$ = Mittelwert von $$y$$ ($$\frac{\sum y}{n}$$ ). Visible text: - = Anzahl der Datenpaare. - , = Summe aller - beziehungsweise -Werte. - = Summe der Produkte der zusammengehörigen - und -Werte. - = Summe der quadrierten -Werte. - = Mittelwert von ( ). - = Mittelwert von ( ). Die Methode der kleinsten Quadrate bestimmt damit systematisch die Gerade, die den linearen Trend nach einem klaren Kriterium am besten beschreibt: Ihre Summe quadrierter Residuen ist minimal. Sind alle $$x$$-Werte gleich, gilt dagegen $$n(\sum x^2)-(\sum x)^2=0$$. Der Nenner der Steigungsformel ist dann null, und die Daten bestimmen keine eindeutige Regressionssteigung. Visible text: Sind alle -Werte gleich, gilt dagegen . Der Nenner der Steigungsformel ist dann null, und die Daten bestimmen keine eindeutige Regressionssteigung.