Identifizierbarkeit und Matrixrang

Identifizierbarkeit fragt, ob die verfügbaren Daten einen Modellparameter eindeutig bestimmen. Seien $A \in \mathbb{R}^{m \times n}$, $b \in \mathbb{R}^m$ und $m \geq n$ gegeben. Das lineare Ausgleichsproblem lautet

und seine Normalgleichungen sind

Der Parametervektor $x$ ist genau dann eindeutig identifizierbar, wenn $A$ vollen Spaltenrang hat:

Diese Aussagen sind äquivalent. Gibt es ein $z \in \ker(A)$ ungleich null, dann gilt

und die Daten können $x$ nicht von $x+z$ unterscheiden. Ist der Kern trivial, dann ist $A^TA$ positiv definit und der Minimierer des Ausgleichsproblems eindeutig.

Eindeutigkeit ist nicht dasselbe wie Stabilität

Voller Spaltenrang garantiert eine eindeutige exakte Lösung, aber noch keine numerisch verlässliche. Ein sehr kleiner positiver Singulärwert kann die Schätzung gegenüber kleinen Datenänderungen äußerst empfindlich machen.

Diese Unterscheidung ist für angewandte Modelle wichtig: Strukturelle Identifizierbarkeit ist eine exakte algebraische Eigenschaft. Praktische Identifizierbarkeit hängt dagegen von Skalierung, Rauschen und numerischer Toleranz ab.

Rangoffenlegende Faktorisierungen

Zwei verbreitete Werkzeuge legen den Rang offen, ohne sich auf empfindliche Determinantenberechnungen zu stützen:

Die gewöhnliche LU-Zerlegung ist vor allem ein Werkzeug für quadratische Systeme. Für eine rechteckige Entwurfsmatrix sind pivotisiertes QR oder SVD die natürlicheren rangoffenlegenden Verfahren.

Singulärwertzerlegung

Sei $q=\min(m,n)$. Jede Matrix $A \in \mathbb{R}^{m \times n}$ besitzt eine Singulärwertzerlegung

wobei $U \in \mathbb{R}^{m \times m}$ und $V \in \mathbb{R}^{n \times n}$ orthogonal sind und $\Sigma \in \mathbb{R}^{m \times n}$ nichtnegative Diagonaleinträge hat:

Der exakte Rang ist die Anzahl der positiven Singulärwerte:

Für $m \geq n$ ist voller Spaltenrang daher äquivalent zu $\sigma_n>0$. Die zu Singulärwert null gehörenden rechten Singulärvektoren spannen $\ker(A)$ auf und zeigen Parameterrichtungen, die sich aus den Daten nicht identifizieren lassen.

Exakter und numerischer Rang

Ist der exakte Rang $r$ mit $0<r<q$, dann gilt

Gleitkommadaten enthalten nur selten exakte Nullen. Ein numerischer Rang zählt stattdessen die Singulärwerte oberhalb eines skalenabhängigen Schwellenwerts $\tau$:

Der Faktor $c$ richtet sich nach Anwendung und Rauschmodell. Deshalb gibt es keinen universellen Dezimalgrenzwert. Ist $A$ rangdefizient, existiert das Minimum des Ausgleichsproblems weiterhin, aber der minimierende Parametervektor ist nicht eindeutig. Die Moore-Penrose-Pseudoinverse wählt die Lösung mit minimaler Norm:

Die Zerlegung sicher berechnen

Die Identität

erklärt, warum die quadrierten Singulärwerte Eigenwerte von $A^TA$ sind. Für die Theorie ist das nützlich. Das explizite Bilden von $A^TA$ quadriert jedoch die Konditionszahl:

Numerische Software verwendet deshalb direkte SVD- oder rangoffenlegende QR-Verfahren, statt $A^TA$ nur zur Rangschätzung zu bilden. Dadurch bleiben mehr Informationen in den bereits nahezu unidentifizierbaren Richtungen erhalten.