# Identifizierbarkeit und Matrixrang > For AI agents: use [llms.txt](https://nakafa.com/llms.txt) for the site index. Markdown versions are available by appending `.md` to content URLs or sending `Accept: text/markdown`. URL: https://nakafa.com/de/faecher/ki-und-data-science/lineare-methoden-der-ki/identifizierbarkeit-und-rang Source: https://raw.githubusercontent.com/nakafaai/aksara/16d6b8e869d1a277313c65bbfc4b4a83efe77a46/packages/corpus/material/lesson/ai-ds/linear-methods/identifiability-ranking/de.mdx Parameteridentifizierbarkeit mit Matrixrang, Singulärwerten, Kondition und stabilen rangoffenlegenden Faktorisierungen verbinden. --- ## Identifizierbarkeit in einem linearen Modell Identifizierbarkeit fragt, ob die verfügbaren Daten einen Modellparameter eindeutig bestimmen. Seien $$A \in \mathbb{R}^{m \times n}$$, $$b \in \mathbb{R}^m$$ und $$m \geq n$$ gegeben. Das lineare Ausgleichsproblem lautet Visible text: Identifizierbarkeit fragt, ob die verfügbaren Daten einen Modellparameter eindeutig bestimmen. Seien , und gegeben. Das lineare Ausgleichsproblem lautet ```math \min_{x \in \mathbb{R}^n} \|Ax-b\|_2^2 ``` und seine Normalgleichungen sind ```math A^T A x = A^T b ``` Der Parametervektor $$x$$ ist genau dann eindeutig identifizierbar, wenn $$A$$ vollen Spaltenrang hat: Visible text: Der Parametervektor ist genau dann eindeutig identifizierbar, wenn vollen Spaltenrang hat: Component: MathContainer Children: ```math \operatorname{rank}(A)=n ``` ```math \ker(A)=\{0\} ``` Diese Aussagen sind äquivalent. Gibt es ein $$z \in \ker(A)$$ ungleich null, dann gilt Visible text: Diese Aussagen sind äquivalent. Gibt es ein ungleich null, dann gilt ```math A(x+z)=Ax ``` und die Daten können $$x$$ nicht von $$x+z$$ unterscheiden. Ist der Kern trivial, dann ist $$A^TA$$ positiv definit und der Minimierer des Ausgleichsproblems eindeutig. Visible text: und die Daten können nicht von unterscheiden. Ist der Kern trivial, dann ist positiv definit und der Minimierer des Ausgleichsproblems eindeutig. ## Eindeutigkeit ist nicht dasselbe wie Stabilität Voller Spaltenrang garantiert eine eindeutige exakte Lösung, aber noch keine numerisch verlässliche. Ein sehr kleiner positiver Singulärwert kann die Schätzung gegenüber kleinen Datenänderungen äußerst empfindlich machen. | Frage | Diagnose | Bedeutung | | --- | --- | --- | | Ist der Parameter strukturell identifizierbar? | $$\operatorname{rank}(A)=n$$ | Keine zwei Parametervektoren erzeugen dieselbe Vorhersage. | | Ist die Schätzung numerisch gut bestimmt? | $$\sigma_n$$ ist im Verhältnis zu $$\sigma_1$$ nicht sehr klein | Kleine Störungen bewirken keine großen Parameteränderungen. | | Wie empfindlich ist das Problem? | $$\kappa_2(A)=\sigma_1/\sigma_n$$ | Eine große Konditionszahl weist auf hohe Empfindlichkeit hin. | Visible text: | Frage | Diagnose | Bedeutung | | --- | --- | --- | | Ist der Parameter strukturell identifizierbar? | | Keine zwei Parametervektoren erzeugen dieselbe Vorhersage. | | Ist die Schätzung numerisch gut bestimmt? | ist im Verhältnis zu nicht sehr klein | Kleine Störungen bewirken keine großen Parameteränderungen. | | Wie empfindlich ist das Problem? | | Eine große Konditionszahl weist auf hohe Empfindlichkeit hin. | Diese Unterscheidung ist für angewandte Modelle wichtig: Strukturelle Identifizierbarkeit ist eine exakte algebraische Eigenschaft. Praktische Identifizierbarkeit hängt dagegen von Skalierung, Rauschen und numerischer Toleranz ab. ## Rangoffenlegende Faktorisierungen Zwei verbreitete Werkzeuge legen den Rang offen, ohne sich auf empfindliche Determinantenberechnungen zu stützen: | Methode | Stärke | Typischer Einsatz | | --- | --- | --- | | QR-Zerlegung mit Spaltenpivotisierung | Meist günstiger als eine vollständige SVD | Schnelle Ausgleichsrechnung und praktische Rangbestimmung | | Singulärwertzerlegung | Zeigt alle unabhängigen Richtungen und ihre Skalen unmittelbar | Robuste Diagnose nahe einem Rangdefizit | Die gewöhnliche LU-Zerlegung ist vor allem ein Werkzeug für quadratische Systeme. Für eine rechteckige Entwurfsmatrix sind pivotisiertes QR oder SVD die natürlicheren rangoffenlegenden Verfahren. ## Singulärwertzerlegung Sei $$q=\min(m,n)$$. Jede Matrix $$A \in \mathbb{R}^{m \times n}$$ besitzt eine Singulärwertzerlegung Visible text: Sei . Jede Matrix besitzt eine Singulärwertzerlegung ```math A=U\Sigma V^T ``` wobei $$U \in \mathbb{R}^{m \times m}$$ und $$V \in \mathbb{R}^{n \times n}$$ orthogonal sind und $$\Sigma \in \mathbb{R}^{m \times n}$$ nichtnegative Diagonaleinträge hat: Visible text: wobei und orthogonal sind und nichtnegative Diagonaleinträge hat: ```math \sigma_1 \geq \sigma_2 \geq \cdots \geq \sigma_q \geq 0 ``` Der exakte Rang ist die Anzahl der positiven Singulärwerte: ```math \operatorname{rank}(A)=\#\{i:\sigma_i>0\} ``` Für $$m \geq n$$ ist voller Spaltenrang daher äquivalent zu $$\sigma_n>0$$. Die zu Singulärwert null gehörenden rechten Singulärvektoren spannen $$\ker(A)$$ auf und zeigen Parameterrichtungen, die sich aus den Daten nicht identifizieren lassen. Visible text: Für ist voller Spaltenrang daher äquivalent zu . Die zu Singulärwert null gehörenden rechten Singulärvektoren spannen auf und zeigen Parameterrichtungen, die sich aus den Daten nicht identifizieren lassen. ## Exakter und numerischer Rang Ist der exakte Rang $$r$$ mit $$00=\sigma_{r+1}=\cdots=\sigma_q ``` Gleitkommadaten enthalten nur selten exakte Nullen. Ein numerischer Rang zählt stattdessen die Singulärwerte oberhalb eines skalenabhängigen Schwellenwerts $$\tau$$: Visible text: Gleitkommadaten enthalten nur selten exakte Nullen. Ein numerischer Rang zählt stattdessen die Singulärwerte oberhalb eines skalenabhängigen Schwellenwerts : Component: MathContainer Children: ```math \tau=c\,\max(m,n)\,\varepsilon_{\mathrm{mach}}\,\sigma_1 ``` ```math \operatorname{rank}_{\tau}(A)=\#\{i:\sigma_i>\tau\} ``` Der Faktor $$c$$ richtet sich nach Anwendung und Rauschmodell. Deshalb gibt es keinen universellen Dezimalgrenzwert. Ist $$A$$ rangdefizient, existiert das Minimum des Ausgleichsproblems weiterhin, aber der minimierende Parametervektor ist nicht eindeutig. Die Moore-Penrose-Pseudoinverse wählt die Lösung mit minimaler Norm: Visible text: Der Faktor richtet sich nach Anwendung und Rauschmodell. Deshalb gibt es keinen universellen Dezimalgrenzwert. Ist rangdefizient, existiert das Minimum des Ausgleichsproblems weiterhin, aber der minimierende Parametervektor ist nicht eindeutig. Die Moore-Penrose-Pseudoinverse wählt die Lösung mit minimaler Norm: ```math x^{\dagger}=V\Sigma^{\dagger}U^T b ``` ## Die Zerlegung sicher berechnen Die Identität ```math A^TA=V\Sigma^2V^T ``` erklärt, warum die quadrierten Singulärwerte Eigenwerte von $$A^TA$$ sind. Für die Theorie ist das nützlich. Das explizite Bilden von $$A^TA$$ quadriert jedoch die Konditionszahl: Visible text: erklärt, warum die quadrierten Singulärwerte Eigenwerte von sind. Für die Theorie ist das nützlich. Das explizite Bilden von quadriert jedoch die Konditionszahl: ```math \kappa_2(A^TA)=\kappa_2(A)^2 ``` Numerische Software verwendet deshalb direkte SVD- oder rangoffenlegende QR-Verfahren, statt $$A^TA$$ nur zur Rangschätzung zu bilden. Dadurch bleiben mehr Informationen in den bereits nahezu unidentifizierbaren Richtungen erhalten. Visible text: Numerische Software verwendet deshalb direkte SVD- oder rangoffenlegende QR-Verfahren, statt nur zur Rangschätzung zu bilden. Dadurch bleiben mehr Informationen in den bereits nahezu unidentifizierbaren Richtungen erhalten.