# Orthogonale Projektion

> For AI agents: use [llms.txt](https://nakafa.com/llms.txt) for the site index. Markdown versions are available by appending `.md` to content URLs or sending `Accept: text/markdown`.

URL: https://nakafa.com/de/faecher/ki-und-data-science/lineare-methoden-der-ki/orthogonale-projektion
Source: https://raw.githubusercontent.com/nakafaai/aksara/16d6b8e869d1a277313c65bbfc4b4a83efe77a46/packages/corpus/material/lesson/ai-ds/linear-methods/orthogonal-projection/de.mdx

Leite orthogonale Projektionen aus dem Satz über die beste Approximation her, berechne sie mit orthonormalen und beliebigen Basen und prüfe ihre Geometrie numerisch.

---

## Satz über die beste Approximation

Sei $$V$$ ein Skalarproduktraum und $$S\subseteq V$$ ein endlichdimensionaler Unterraum. Zu jedem $$f\in V$$ gibt es genau einen Vektor $$g\in S$$ mit

Visible text: Sei ein Skalarproduktraum und ein endlichdimensionaler Unterraum. Zu jedem gibt es genau einen Vektor mit

```math
\|f-g\|=\min_{\varphi\in S}\|f-\varphi\|
```

Der Vektor $$g$$ ist die orthogonale Projektion von $$f$$ auf $$S$$ und wird als $$g=P_Sf$$ geschrieben. Er wird durch zwei Bedingungen charakterisiert:

Visible text: Der Vektor ist die orthogonale Projektion von auf und wird als geschrieben. Er wird durch zwei Bedingungen charakterisiert:

Component: MathContainer
Children:

```math
g\in S
```

```math
f-g\in S^{\perp}
```

Äquivalent dazu gilt

```math
\langle f-g,\varphi\rangle=0\qquad\text{für jedes }\varphi\in S
```

In einem Hilbert-Raum gilt derselbe Satz für jeden abgeschlossenen Unterraum. Ein endlichdimensionaler Unterraum ist automatisch abgeschlossen.

## Warum Orthogonalität das Minimum liefert

Sei $$g=P_Sf$$ und $$\varphi\in S$$ beliebig. Wegen $$g-\varphi\in S$$ und $$f-g\perp S$$ liefert der Satz des Pythagoras

Visible text: Sei und beliebig. Wegen und liefert der Satz des Pythagoras

Component: MathContainer
Children:

```math
f-\varphi=(f-g)+(g-\varphi)
```

```math
\|f-\varphi\|^2=\|f-g\|^2+\|g-\varphi\|^2
```

```math
\|f-\varphi\|^2\ge\|f-g\|^2
```

Gleichheit gilt nur für $$\varphi=g$$. Damit sind sowohl die Optimalität als auch die Eindeutigkeit bewiesen.

Visible text: Gleichheit gilt nur für . Damit sind sowohl die Optimalität als auch die Eindeutigkeit bewiesen.

## Formel für eine orthonormale Basis

Ist $$\varphi_1,ldots,arphi_n$$ eine orthonormale Basis von $$S$$, dann gilt

Visible text: Ist eine orthonormale Basis von , dann gilt

Component: MathContainer
Children:

```math
P_Sf=\sum_{i=1}^n\langle f,\varphi_i\rangle\varphi_i
```

```math
\|f-P_Sf\|^2=\|f\|^2-\sum_{i=1}^n|\langle f,\varphi_i\rangle|^2
```

Die zweite Zeile folgt aus der Zerlegung von $$f$$ in die senkrechten Komponenten $$P_Sf$$ und $$f-P_Sf$$.

Visible text: Die zweite Zeile folgt aus der Zerlegung von in die senkrechten Komponenten und .

Für eine reelle Matrix $$Q\in\mathbb{R}^{m\times n}$$ mit orthonormalen Spalten projiziert

Visible text: Für eine reelle Matrix mit orthonormalen Spalten projiziert

```math
P=QQ^T
```

Vektoren aus $$\mathbb{R}^m$$ auf $$\operatorname{col}(Q)$$.

Visible text: Vektoren aus auf .

## Vektorrechnung als Beispiel

Projiziere

Component: MathContainer
Children:

```math
f=\begin{pmatrix}1\\3\end{pmatrix}
```

```math
u=\begin{pmatrix}2\\1\end{pmatrix}
```

auf $$S=\operatorname{span}\{u\}$$. Der Projektionskoeffizient ist

Visible text: auf . Der Projektionskoeffizient ist

```math
\frac{\langle f,u\rangle}{\langle u,u\rangle}=\frac{1\cdot2+3\cdot1}{2^2+1^2}=1
```

Daher gilt

Component: MathContainer
Children:

```math
g=P_Sf=u=\begin{pmatrix}2\\1\end{pmatrix}
```

```math
r=f-g=\begin{pmatrix}-1\\2\end{pmatrix}
```

```math
\langle r,u\rangle=(-1)2+(2)1=0
```

```math
\|f-g\|_2=\sqrt5
```

Component: LineEquation
Props:
- title: Projektion von $$f$$ auf $$\operatorname{span}\{u\}$$
  Visible text: Projektion von auf
- description: Der cyanfarbene Vektor ist $$f$$, der orangefarbene Vektor ist $$g=P_Sf$$, und die violette Strecke ist das senkrechte Residuum $$r=f-g$$.
  Visible text: Der cyanfarbene Vektor ist , der orangefarbene Vektor ist , und die violette Strecke ist das senkrechte Residuum .
- cameraPosition: [5, 5, 7]
- data: [
{
points: [{ x: 0, y: 0, z: 0 }, { x: 1, y: 3, z: 0 }],
color: "#0891b2",
smooth: false,
showPoints: true
},
{
points: [{ x: 0, y: 0, z: 0 }, { x: 2, y: 1, z: 0 }],
color: "#ea580c",
smooth: false,
showPoints: true
},
{
points: [{ x: 2, y: 1, z: 0 }, { x: 1, y: 3, z: 0 }],
color: "#7c3aed",
smooth: false,
showPoints: true
}
]

## Konstruktion aus einer beliebigen Basis

Sei $$\psi_1,ldots,psi_n$$ eine beliebige Basis von $$S$$ und

Visible text: Sei eine beliebige Basis von und

```math
g=\sum_{i=1}^n\alpha_i\psi_i
```

Die Orthogonalitätsbedingungen ergeben das Gram-System

Component: MathContainer
Children:

```math
\sum_{i=1}^n\langle\psi_i,\psi_k\rangle\alpha_i=\langle f,\psi_k\rangle,\qquad k=1,ldots,n
```

```math
G\alpha=c
```

mit $$G_{ki}=\langle\psi_i,psi_k\rangle$$ und $$c_k=\langle f,psi_k\rangle$$. Da die Basisvektoren linear unabhängig sind, gilt

Visible text: mit und . Da die Basisvektoren linear unabhängig sind, gilt

```math
z^TGz=\left\|\sum_{i=1}^nz_i\psi_i\right\|^2>0\qquad\text{für }z\ne0
```

Somit ist $$G$$ symmetrisch positiv definit und die Koeffizienten sind eindeutig.

Visible text: Somit ist symmetrisch positiv definit und die Koeffizienten sind eindeutig.

Sind die Spalten einer Matrix $$A$$ mit vollem Spaltenrang die Basisvektoren, dann ist

Visible text: Sind die Spalten einer Matrix mit vollem Spaltenrang die Basisvektoren, dann ist

```math
P=A(A^TA)^{-1}A^T
```

derselbe orthogonale Projektor. Diese Identität ist für die Analyse nützlich. In numerischer Software sind QR oder SVD meist vorzuziehen, weil die Bildung von $$A^TA$$ die Konditionszahl quadriert.

Visible text: derselbe orthogonale Projektor. Diese Identität ist für die Analyse nützlich. In numerischer Software sind QR oder SVD meist vorzuziehen, weil die Bildung von die Konditionszahl quadriert.

## Beispiel aus einem Funktionenraum

Projiziere $$f(x)=x^2$$ auf $$S=\operatorname{span}\{1,x\}$$ bezüglich

Visible text: Projiziere auf bezüglich

```math
\langle f,g\rangle=\int_{-1}^{1}f(x)g(x)\,dx
```

Die Funktionen $$1$$ und $$x$$ sind orthogonal. Ihre Koeffizienten lauten

Visible text: Die Funktionen und sind orthogonal. Ihre Koeffizienten lauten

Component: MathContainer
Children:

```math
c_0=\frac{\langle x^2,1\rangle}{\langle1,1\rangle}=\frac{2/3}{2}=\frac13
```

```math
c_1=\frac{\langle x^2,x\rangle}{\langle x,x\rangle}=0
```

Damit gilt

Component: MathContainer
Children:

```math
P_Sf(x)=\frac13
```

```math
\|f-P_Sf\|_2^2=\int_{-1}^{1}\left(x^2-\frac13\right)^2dx=\frac{8}{45}
```

Der lineare Term verschwindet, weil $$x^3$$ auf dem symmetrischen Intervall ungerade ist.

Visible text: Der lineare Term verschwindet, weil auf dem symmetrischen Intervall ungerade ist.

## Eigenschaften eines orthogonalen Projektors

| Eigenschaft | Bedeutung |
| --- | --- |
| $$P^2=P$$ | eine zweite Projektion ändert nichts |
| $$P^T=P$$ | Bild und Kern stehen senkrecht aufeinander |
| $$\operatorname{range}(P)=S$$ | jede Ausgabe liegt im Zielunterraum |
| $$\ker(P)=S^\perp$$ | senkrechte Komponenten werden entfernt |

Visible text: | Eigenschaft | Bedeutung |
| --- | --- |
| | eine zweite Projektion ändert nichts |
| | Bild und Kern stehen senkrecht aufeinander |
| | jede Ausgabe liegt im Zielunterraum |
| | senkrechte Komponenten werden entfernt |

Idempotenz allein genügt nicht: Auch ein schiefer Projektor erfüllt $$P^2=P$$, muss aber nicht symmetrisch sein. Die Symmetrie kennzeichnet den euklidischen orthogonalen Projektor.

Visible text: Idempotenz allein genügt nicht: Auch ein schiefer Projektor erfüllt , muss aber nicht symmetrisch sein. Die Symmetrie kennzeichnet den euklidischen orthogonalen Projektor.