Singulärwertzerlegung

Einfache Sprache

Die Singulärwertzerlegung ist die Verallgemeinerung der Spektralzerlegung auf rechteckige Matrizen. Wichtig ist das Zeilen einen Beobachtung bilden und Spalten eine Feature. Es gibt die vollständige Singulärwertzerlegung und die kompakte Singulärwertzerlegung.

Vollständige Singulärwertzerlegung

Def. (Vollständige) Singulärwertzerlegung

Sei $\mathfrak A\in K^{n\times d}$ eine rechteckige Matrix. Dann ist vollständige Singulärwertzerlegung gegeben durch

$$\mathfrak A = \mathfrak{USV}^T\;.$$

Dabei setzen sich sich $\mathfrak{U,S,V}$ wie folgt zusammen:

• $\mathfrak U\in K^{n\times n}$ ist eine Matrix spaltenweise zusammengesetzt aus den Eigenvektoren von $\mathfrak{AA}^T$
• $\mathfrak V\in K^{d\times d}$ ist eine Matrix spaltenweise zusammengesetzt aus den Eigenvektoren von $\mathfrak A^T\mathfrak A$.
• $\mathfrak S\in K^{n\times d}$ hat auf der Hauptdiagonale die Wurzel der Eigenwerte von $\mathfrak A^T\mathfrak A$ absteigend sortiert. Diese Werten auch Singulärwerte genannt.

Wie berechne ich eine vollständige Singulärwertzerlegung?

1. Sei $i\in[1,d]$.
2. Zuerst werden die Eigenwerte $\lambda_i$ und orthonomale Eigenvektoren $\mathfrak v_i$ von $\mathfrak A^T\mathfrak A$ bestimmt.
3. $\mathfrak V = [\mathfrak v_1, \ldots,\mathfrak v_d]\in K^{d\times d}$
4. $\sigma_i = \sqrt{\lambda_i}$
5. Dann werden die $\sigma_i$ absteigend sortiert.
6. $r = \text{rang}(\mathfrak A)$
7. $\mathfrak u_i =\frac{1}{\sigma_i}\mathfrak {Av}_i$ für $i\in[1,r]$
8. Wähle $\mathfrak u_i$ für alle $i\in(r,n]$ so, dass $\mathfrak U$ eine Orthogonale Matrix ist.
9. $\mathfrak U = [\mathfrak u_1, \ldots,\mathfrak u_r,\mathfrak u_{r+}, \ldots,\mathfrak u_d]\in K^{n\times n}$
10. $\mathfrak S\in K^{n\times d}$ mit $\mathfrak S_{ii} = \sigma_i$ für alle $i\in[1,r]$ sonst $0$.

Kompakte Singulärwertzerlegung

Def. (Kompakte) Singulärwertzerlegung

Sei $\mathfrak A\in K^{n\times d}$ eine rechteckige Matrix. Sei $r= \text{rang}(\mathfrak A)$ der Rang von $\mathfrak A$. Dann ist kompakte Singulärwertzerlegung gegeben durch

$$\mathfrak A = \mathfrak{USV}^T\;.$$

Dabei setzen sich sich $\mathfrak{U,S,V}$ wie folgt zusammen:

• $\mathfrak U\in K^{n\times r}$ ist eine Matrix spaltenweise zusammengesetzt aus den Eigenvektoren von $\mathfrak{AA}^T$
• $\mathfrak V\in K^{r\times r}$ ist eine Matrix spaltenweise zusammengesetzt aus den Eigenvektoren von $\mathfrak A^T\mathfrak A$.
• $\mathfrak S\in K^{d\times r}$ hat auf der Hauptdiagonale die Wurzel der Eigenwerte von $A^T\mathfrak A$ absteigend sortiert.

Wie berechne ich eine kompakte Singulärwertzerlegung?

1. $r = \text{rang}(\mathfrak A)$
2. Sei $i\in[1,r]$.
3. Bestimme die Eigenwerte $\lambda_i$ und Eigenvektoren $\mathfrak v_i$ von $\mathfrak A^T\mathfrak A$.
4. $\mathfrak V = [\mathfrak v_1, \ldots,\mathfrak v_r]\in K^{d\times r}$
5. $\sigma_i = \sqrt{\lambda_i}$
6. Dann werden die $\sigma_i$ absteigend sortiert.
7. $\mathfrak u_i =\frac{1}{\sigma_i}\mathfrak {Av}_i$ für $i\in[1,r]$
8. $\mathfrak U = [\mathfrak u_1, \ldots,\mathfrak u_r]\in K^{n\times r}$
9. $\mathfrak S\in K^{r\times r}$ mit $\sigma_i$ auf der Hauptdiagonale.