Descomposición en valores singulares

En álgebra lineal , la descomposición en valores singulares ( SVD ) es una factorización de una matriz real o compleja en una rotación, seguida de un reescalamiento seguido de otra rotación. Generaliza la descomposición propia de una matriz normal cuadrada con una base propia ortonormal a cualquier matriz . Está relacionada con la descomposición polar .${\displaystyle m\veces n}$

Específicamente, la descomposición en valores singulares de una matriz compleja ⁠ ⁠ es una factorización de la forma donde ⁠ ⁠ es una ⁠ ⁠ matriz unitaria compleja , es una matriz diagonal rectangular con números reales no negativos en la diagonal, ⁠ ⁠ es una matriz unitaria compleja y es la transpuesta conjugada de ⁠ ⁠ . Dicha descomposición siempre existe para cualquier matriz compleja. Si ⁠ ⁠ es real, entonces ⁠ ⁠ y ⁠ ⁠ se puede garantizar que son matrices ortogonales reales ; en tales contextos, la SVD a menudo se denota${\displaystyle m\veces n}$${\displaystyle \mathbf {M}}$${\displaystyle \mathbf {M} =\mathbf {U\Sigma V^{*}} ,}$${\displaystyle \mathbf {U}}$${\displaystyle m\veces m}$${\displaystyle \mathbf {\Sigma}}$${\displaystyle m\veces n}$ ${\displaystyle \mathbf {V}}$${\displaystyle n\veces n}$${\displaystyle \mathbf {V} ^{*}}$${\displaystyle \mathbf {V}}$${\displaystyle \mathbf {M}}$${\displaystyle \mathbf {U}}$${\displaystyle \mathbf {V}}$${\displaystyle U} \Sigma} \V ^{\mathrm {T} }.}$

Las entradas diagonales de están determinadas de forma única por ⁠ ⁠ y se conocen como valores singulares de ⁠ ⁠ . El número de valores singulares distintos de cero es igual al rango de ⁠ ⁠ . Las columnas de ⁠ ⁠ y las columnas de ⁠ ⁠ se denominan vectores singulares izquierdos y vectores singulares derechos de ⁠ ⁠ , respectivamente. Forman dos conjuntos de bases ortonormales ⁠ ⁠ y ⁠ ⁠ y si se ordenan de modo que los valores singulares con valor cero estén todos en las columnas (o filas) con el número más alto, la descomposición en valores singulares se puede escribir como${\displaystyle \sigma _{i}=\Sigma _{ii}}$${\displaystyle \mathbf {\Sigma}}$${\displaystyle \mathbf {M}}$${\displaystyle \mathbf {M}}$${\displaystyle \mathbf {M}}$${\displaystyle \mathbf {U}}$${\displaystyle \mathbf {V}}$${\displaystyle \mathbf {M}}$ ${\displaystyle \mathbf {u}_{1},\ldots ,\mathbf {u}_{m}}$${\displaystyle \mathbf {v} _{1},\ldots ,\mathbf {v} _{n},}$${\displaystyle \sigma _{i}}$

$${\displaystyle \mathbf {M} =\suma _{i=1}^{r}\sigma _{i}\mathbf {u} _{i}\mathbf {v} _{i}^{*},}$$

¿Dónde está el rango de ⁠ ⁠${\displaystyle r\leq \min\{m,n\}}$${\displaystyle \mathbf {M} .}$

La descomposición SVD no es única, sin embargo, siempre es posible elegir la descomposición de modo que los valores singulares estén en orden descendente. En este caso, (pero no ⁠ ⁠ y ⁠ ⁠ ) está determinada de manera única por ⁠ ⁠${\displaystyle \Sigma _{ii}}$${\displaystyle \mathbf {\Sigma}}$${\displaystyle \mathbf {U}}$${\displaystyle \mathbf {V}}$${\displaystyle \mathbf {M} .}$

El término a veces se refiere a la descomposición SVD compacta , una descomposición similar en la que ⁠ ⁠ es${\displaystyle \mathbf {M} =\mathbf {U\Sigma V} ^{*}}$ una diagonal cuadrada de tamaño ⁠ ⁠ donde ⁠ ⁠ es el rango de ⁠ ⁠ y tiene solo los valores singulares distintos de cero. En esta variante, ⁠ ⁠ es una matriz ⁠ ⁠ semiunitaria y es una matriz ⁠ ⁠ semiunitaria , tal que${\displaystyle \mathbf {\Sigma}}$${\displaystyle r\times r,}$${\displaystyle r\leq \min\{m,n\}}$${\displaystyle \mathbf {M} ,}$${\displaystyle \mathbf {U}}$${\displaystyle m\times r}$ ${\displaystyle \mathbf {V}}$${\displaystyle n\veces r}$ ${\displaystyle \mathbf {U} ^{*}\mathbf {U} =\mathbf {V} ^{*}\mathbf {V} =\mathbf {I} _{r}.}$

Las aplicaciones matemáticas de la descomposición en valores singulares incluyen el cálculo de la pseudoinversa , la aproximación matricial y la determinación del rango, el rango y el espacio nulo de una matriz. La descomposición en valores singulares también es extremadamente útil en todas las áreas de la ciencia, la ingeniería y la estadística , como el procesamiento de señales , el ajuste de datos por mínimos cuadrados y el control de procesos .

En el caso especial en que ⁠ ⁠${\displaystyle \mathbf {M}}$ es una matriz ${\displaystyle m\veces m}$cuadrada real , las matrices ⁠ ⁠ ${\displaystyle \mathbf {U}}$y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ pueden elegirse como matrices reales también .${\displaystyle m\veces m}$ En ese caso, "unitario" es lo mismo que " ortogonal " . Entonces, interpretando tanto las matrices unitarias como la matriz diagonal, resumida aquí como ⁠ ⁠${\displaystyle \mathbf {A} ,}$ como una transformación lineal ⁠ ⁠${\displaystyle \mathbf {x} \mapsto \mathbf {Ax} }$ del espacio ⁠ ⁠${\displaystyle \mathbf {R} _ {m},}$ las matrices ⁠ ⁠${\displaystyle \mathbf {U}}$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ representan rotaciones o reflexiones del espacio, mientras que ⁠ ⁠${\displaystyle \mathbf {\Sigma}}$ representa el escalado de cada coordenada ⁠ ⁠${\displaystyle \mathbf {x} _ {i}}$ por el factor ⁠ ⁠${\displaystyle \sigma _{i}.}$ Así, la descomposición SVD descompone cualquier transformación lineal de ⁠ ⁠${\displaystyle \mathbf {R} ^{m}}$ en una composición de tres transformaciones geométricas : una rotación o reflexión ( ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ ), seguida de un escalado coordenada por coordenada ( ⁠ ⁠${\displaystyle \mathbf {\Sigma}}$ ), seguido de otra rotación o reflexión ( ⁠ ⁠${\displaystyle \mathbf {U}}$ ).

En particular, si ⁠ ⁠${\displaystyle \mathbf {M}}$ tiene un determinante positivo, entonces ⁠ ⁠${\displaystyle \mathbf {U}}$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ pueden elegirse para que sean ambas rotaciones con reflexiones, o ambas rotaciones sin reflexiones. ^{[ cita requerida ]} Si el determinante es negativo, exactamente uno de ellos tendrá una reflexión. Si el determinante es cero, cada uno puede elegirse independientemente para que sea de cualquier tipo.

Si la matriz ⁠ ⁠${\displaystyle \mathbf {M}}$ es real pero no cuadrada, es decir ⁠ ⁠${\displaystyle m\veces n}$ con ⁠ ⁠${\displaystyle m\neq n,}$ se puede interpretar como una transformación lineal de ⁠ ⁠${\displaystyle \mathbf {R} ^{n}}$ a ⁠ ⁠${\displaystyle \mathbf {R} ^{m}.}$ Entonces ⁠ ⁠${\displaystyle \mathbf {U}}$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ se pueden elegir para que sean rotaciones/reflexiones de ⁠ ⁠${\displaystyle \mathbf {R} ^{m}}$ y ⁠ ⁠${\displaystyle \mathbf {R} ^{n},}$ respectivamente; y ⁠ ⁠${\displaystyle \mathbf {\Sigma},}$ además de escalar las primeras ⁠ ⁠${\displaystyle \min\{m,n\}}$ coordenadas, también extiende el vector con ceros, es decir, elimina las coordenadas finales, de modo de convertir ⁠ ⁠${\displaystyle \mathbf {R} ^{n}}$ en ⁠ ⁠${\displaystyle \mathbf {R} ^{m}.}$

Como se muestra en la figura, los valores singulares se pueden interpretar como la magnitud de los semiejes de una elipse en 2D. Este concepto se puede generalizar al espacio euclidiano ⁠ ⁠${\estilo de visualización n}$ -dimensional , con los valores singulares de cualquier matriz ⁠ ⁠ cuadrada siendo vistos como la magnitud del semieje de un elipsoide ⁠ ⁠ -dimensional . De manera similar, los valores singulares de cualquier matriz ⁠ ⁠ se pueden ver como la magnitud del semieje de un elipsoide ⁠ ⁠ -dimensional en el espacio ⁠ ⁠ -dimensional, por ejemplo como una elipse en un plano 2D (inclinado) en un espacio 3D. Los valores singulares codifican la magnitud del semieje, mientras que los vectores singulares codifican la dirección. Vea a continuación para más detalles.${\displaystyle n\veces n}$ ${\estilo de visualización n}$${\displaystyle m\veces n}$${\estilo de visualización n}$${\estilo de visualización m}$

Dado que ⁠ ⁠${\displaystyle \mathbf {U}}$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ son unitarios, las columnas de cada uno de ellos forman un conjunto de vectores ortonormales , que pueden considerarse como vectores base . La matriz ⁠ ⁠${\displaystyle \mathbf {M}}$ asigna el vector base ⁠ ⁠${\displaystyle \mathbf {V}_{i}}$ al vector unitario estirado ⁠ ⁠${\displaystyle \sigma _{i}\mathbf {U} _{i}.}$ Por la definición de una matriz unitaria, lo mismo es cierto para sus transpuestas conjugadas ⁠ ⁠${\displaystyle \mathbf {U} ^{*}}$ y ⁠ ⁠${\displaystyle \mathbf {V} ,}$ excepto que se pierde la interpretación geométrica de los valores singulares como estiramientos. En resumen, las columnas de ⁠ ⁠ ⁠ ${\displaystyle \mathbf {U} ,}$ ⁠ ⁠ ${\displaystyle \mathbf {U} ^{*},}$ y${\displaystyle \mathbf {V} ,}$ ⁠ ⁠ ${\displaystyle \mathbf {V} ^{*}}$son bases ortonormales . Cuando ⁠ ⁠${\displaystyle \mathbf {M}}$ es una matriz hermítica semidefinida positiva , ⁠ ⁠ y ⁠ ⁠ son ambas iguales a la matriz unitaria utilizada para diagonalizar ⁠ ⁠ Sin embargo, cuando ⁠ ⁠ no es semidefinida positiva y hermítica pero aún es diagonalizable , su descomposición propia y su descomposición en valores singulares son distintas.${\displaystyle \mathbf {U}}$${\displaystyle \mathbf {V}}$${\displaystyle \mathbf {M} .}$${\displaystyle \mathbf {M}}$

• Las primeras ⁠ ⁠${\estilo de visualización r}$ columnas de ⁠ ⁠${\displaystyle \mathbf {U}}$ son una base del espacio de columnas de ⁠ ⁠${\displaystyle \mathbf {M}}$ .
• Las últimas ⁠ ⁠${\displaystyle señor}$ columnas de ⁠ ⁠${\displaystyle \mathbf {U}}$ son una base del espacio nulo de ⁠ ⁠${\displaystyle \mathbf {M} ^{*}}$ .
• Las primeras columnas${\estilo de visualización r}$ de son una${\displaystyle \mathbf {V}}$ base del espacio de columnas de ( el ${\displaystyle \mathbf {M} ^{*}}$espacio de filas de en${\displaystyle \mathbf {M}}$ el caso real).
• Las últimas ⁠ ⁠${\estilo de visualización nr}$ columnas de ⁠ ⁠${\displaystyle \mathbf {V}}$ son una base del espacio nulo de ⁠ ⁠${\displaystyle \mathbf {M}}$ .

Como ⁠ ⁠${\displaystyle \mathbf {U}}$ y ⁠ ⁠${\displaystyle \mathbf {V}}$ son unitarios, sabemos que las columnas ⁠ ⁠${\displaystyle \mathbf {U}_{1},\ldots ,\mathbf {U}_{m}}$ de ⁠ ⁠${\displaystyle \mathbf {U}}$ producen una base ortonormal de ⁠ ⁠$Estilo de visualización K^{m}}$ y las columnas ⁠ ⁠${\displaystyle \mathbf {V} _{1},\ldots ,\mathbf {V} _{n}}$ de ⁠ ⁠${\displaystyle \mathbf {V}}$ producen una base ortonormal de ⁠ ⁠$Estilo de visualización K^{n}}$ (con respecto a los productos escalares estándar en estos espacios).

La transformación lineal

$${\displaystyle T:\left\{{\begin{aligned}K^{n}&\to K^{m}\\x&\mapsto \mathbf {M} x\end{aligned}}\right.}$$

tiene una descripción particularmente simple con respecto a estas bases ortonormales: tenemos

$${\displaystyle T(\mathbf {V} _{i})=\sigma _{i}\mathbf {U} _{i},\qquad i=1,\ldots ,\min(m,n),}$$

donde ⁠ ⁠${\displaystyle \sigma _{i}}$ es la ⁠ ⁠${\estilo de visualización i}$ -ésima entrada diagonal de ⁠ ⁠${\displaystyle \mathbf {\Sigma},}$ y ⁠ ⁠${\displaystyle T(\mathbf {V} _{i})=0}$ para ⁠ ⁠${\displaystyle i>\min(m,n).}$

El contenido geométrico del teorema SVD puede entonces resumirse de la siguiente manera: para cada función lineal ⁠ ⁠${\displaystyle T:K^{n}\to K^{m}}$ se pueden encontrar bases ortonormales de ⁠ ⁠$Estilo de visualización K^{n}}$ y ⁠ ⁠$Estilo de visualización K^{m}}$ tales que ⁠ ⁠${\estilo de visualización T}$ asigna el ⁠ ⁠${\estilo de visualización i}$ -ésimo vector base de ⁠ ⁠$Estilo de visualización K^{n}}$ a un múltiplo no negativo del ⁠ ⁠${\estilo de visualización i}$ -ésimo vector base de ⁠ ⁠${\displaystyle K^{m},}$ y envía los vectores base restantes a cero. Con respecto a estas bases, la función ⁠ ⁠${\estilo de visualización T}$ se representa, por lo tanto, mediante una matriz diagonal con entradas diagonales reales no negativas.

Para obtener una idea más visual de los valores singulares y la factorización SVD –al menos cuando se trabaja con espacios vectoriales reales–, considere la esfera ⁠ ⁠${\estilo de visualización S}$ de radio uno en ⁠ ⁠${\displaystyle \mathbf {R} ^{n}.}$ La función lineal ⁠ ⁠${\estilo de visualización T}$ asigna esta esfera a un elipsoide en ⁠ ⁠${\displaystyle \mathbf {R} ^{m}.}$ Los valores singulares distintos de cero son simplemente las longitudes de los semiejes de este elipsoide. Especialmente cuando ⁠ ⁠${\estilo de visualización n=m,}$ y todos los valores singulares son distintos y distintos de cero, la SVD de la función lineal ⁠ ⁠${\estilo de visualización T}$ se puede analizar fácilmente como una sucesión de tres movimientos consecutivos: considere el elipsoide ⁠ ⁠${\displaystyle T(S)}$ y específicamente sus ejes; luego considere las direcciones en ⁠ ⁠${\displaystyle \mathbf {R} ^{n}}$ enviadas por ⁠ ⁠${\estilo de visualización T}$ sobre estos ejes. Estas direcciones resultan ser mutuamente ortogonales. Aplica primero una isometría ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ enviando estas direcciones a los ejes de coordenadas de ⁠ ⁠${\displaystyle \mathbf {R} ^{n}.}$ En un segundo movimiento, aplica un endomorfismo ⁠ ⁠${\displaystyle \mathbf {D}}$ diagonalizado a lo largo de los ejes de coordenadas y estirándose o encogiéndose en cada dirección, usando las longitudes de los semiejes de ⁠ ⁠${\displaystyle T(S)}$ como coeficientes de estiramiento. La composición ⁠ ⁠${\displaystyle \mathbf {D} \circ \mathbf {V} ^{*}}$ envía luego la esfera-unidad sobre un elipsoide isométrico a ⁠ ⁠${\displaystyle T(S).}$ Para definir el tercer y último movimiento, aplica una isometría ⁠ ⁠${\displaystyle \mathbf {U}}$ a este elipsoide para obtener ⁠ ⁠${\displaystyle T(S).}$ Como se puede comprobar fácilmente, la composición ⁠ ⁠${\displaystyle \mathbf {U} \circ \mathbf {D} \circ \mathbf {V} ^{*}}$ coincide con ⁠ ⁠${\estilo de visualización T.}$

Considere la matriz ⁠ ⁠${\displaystyle 4\times 5}$

$${\displaystyle \mathbf {M} ={\begin{bmatrix}1&0&0&0&2\\0&0&3&0&0\\0&0&0&0&0\\0&2&0&0&0\end{bmatrix}}}$$

Una descomposición en valores singulares de esta matriz viene dada por ⁠ ⁠${\displaystyle \mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$

$${\displaystyle {\begin{aligned}\mathbf {U} &={\begin{bmatrix}\color {Green}0&\color {Blue}-1&\color {Cyan}0&\color {Emerald}0\\\color {Green}-1&\color {Blue}0&\color {Cyan}0&\color {Emerald}0\\\color {Green}0&\color {Blue}0&\color {Cyan}0&\color {Emerald}-1\\\color {Green}0&\color {Blue}0&\color {Cyan}-1&\color {Emerald}0\end{bmatrix}}\\[6pt]\mathbf {\Sigma } &={\begin{bmatrix}3&0&0&0&\color {Gray}{\mathit {0}}\\0&{\sqrt {5}}&0&0&\color {Gray}{\mathit {0}}\\0&0&2&0&\color {Gray}{\mathit {0}}\\0&0&0&\color {Red}\mathbf {0} &\color {Gray}{\mathit {0}}\end{bmatrix}}\\[6pt]\mathbf {V} ^{*}&={\begin{bmatrix}\color {Violet}0&\color {Violet}0&\color {Violet}-1&\color {Violet}0&\color {Violet}0\\\color {Plum}-{\sqrt {0.2}}&\color {Plum}0&\color {Plum}0&\color {Plum}0&\color {Plum}-{\sqrt {0.8}}\\\color {Magenta}0&\color {Magenta}-1&\color {Magenta}0&\color {Magenta}0&\color {Magenta}0\\\color {Orchid}0&\color {Orchid}0&\color {Orchid}0&\color {Orchid}1&\color {Orchid}0\\\color {Purple}-{\sqrt {0.8}}&\color {Purple}0&\color {Purple}0&\color {Purple}0&\color {Purple}{\sqrt {0.2}}\end{bmatrix}}\end{aligned}}}$$

La matriz de escala ⁠ ⁠${\displaystyle \mathbf {\Sigma } }$ es cero fuera de la diagonal (cursiva gris) y un elemento de la diagonal es cero (negrita roja, negrita azul claro en modo oscuro). Además, debido a que las matrices ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ son unitarias , al multiplicarlas por sus respectivas transpuestas conjugadas se obtienen matrices identidad , como se muestra a continuación. En este caso, debido a que ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ tienen valores reales, cada una es una matriz ortogonal .

$${\displaystyle {\begin{aligned}\mathbf {U} \mathbf {U} ^{*}&={\begin{bmatrix}1&0&0&0\\0&1&0&0\\0&0&1&0\\0&0&0&1\end{bmatrix}}=\mathbf {I} _{4}\\[6pt]\mathbf {V} \mathbf {V} ^{*}&={\begin{bmatrix}1&0&0&0&0\\0&1&0&0&0\\0&0&1&0&0\\0&0&0&1&0\\0&0&0&0&1\end{bmatrix}}=\mathbf {I} _{5}\end{aligned}}}$$

Esta descomposición en valores singulares en particular no es única. Elegir ⁠ ⁠${\displaystyle \mathbf {V} }$ de manera que

$${\displaystyle \mathbf {V} ^{*}={\begin{bmatrix}\color {Violet}0&\color {Violet}1&\color {Violet}0&\color {Violet}0&\color {Violet}0\\\color {Plum}0&\color {Plum}0&\color {Plum}1&\color {Plum}0&\color {Plum}0\\\color {Magenta}{\sqrt {0.2}}&\color {Magenta}0&\color {Magenta}0&\color {Magenta}0&\color {Magenta}{\sqrt {0.8}}\\\color {Orchid}{\sqrt {0.4}}&\color {Orchid}0&\color {Orchid}0&\color {Orchid}{\sqrt {0.5}}&\color {Orchid}-{\sqrt {0.1}}\\\color {Purple}-{\sqrt {0.4}}&\color {Purple}0&\color {Purple}0&\color {Purple}{\sqrt {0.5}}&\color {Purple}{\sqrt {0.1}}\end{bmatrix}}}$$

También es una descomposición en valores singulares válida.

Un número ${\displaystyle \sigma }$real no negativo es un valor singular para si y${\displaystyle \mathbf {M} }$ solo si existen vectores de longitud unitaria${\displaystyle \mathbf {u} }$ en y en tales que${\displaystyle K^{m}}$${\displaystyle \mathbf {v} }$${\displaystyle K^{n}}$

$${\displaystyle {\begin{aligned}\mathbf {Mv} &=\sigma \mathbf {u} ,\\[3mu]\mathbf {M} ^{*}\mathbf {u} &=\sigma \mathbf {v} .\end{aligned}}}$$

Los vectores ⁠ ⁠${\displaystyle \mathbf {u} }$ y ⁠ ⁠${\displaystyle \mathbf {v} }$ se denominan vectores singulares izquierdos y singulares derechos para ⁠ ⁠${\displaystyle \sigma ,}$ respectivamente.

En cualquier descomposición en valores singulares

$${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$$

Las entradas diagonales de ⁠ ⁠${\displaystyle \mathbf {\Sigma } }$ son iguales a los valores singulares de ⁠ ⁠${\displaystyle \mathbf {M} .}$ Las primeras ⁠ ⁠${\displaystyle p=\min(m,n)}$ columnas de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ son, respectivamente, vectores singulares izquierdo y derecho para los valores singulares correspondientes. En consecuencia, el teorema anterior implica que:

• Una matriz ${\displaystyle m\times n}$tiene${\displaystyle \mathbf {M} }$ como máximo valores singulares distintos ${\displaystyle p}$.​
• Siempre es posible encontrar una base unitaria ⁠ ⁠${\displaystyle \mathbf {U} }$ para ⁠ ⁠${\displaystyle K^{m}}$ con un subconjunto de vectores base que abarcan los vectores singulares izquierdos de cada valor singular de ⁠ ⁠${\displaystyle \mathbf {M} .}$
• Siempre es posible encontrar una base unitaria ⁠ ⁠${\displaystyle \mathbf {V} }$ para ⁠ ⁠${\displaystyle K^{n}}$ con un subconjunto de vectores base que abarcan los vectores singulares derechos de cada valor singular de ⁠ ⁠${\displaystyle \mathbf {M} .}$

Un valor singular para el cual podemos encontrar dos vectores singulares izquierdos (o derechos) que son linealmente independientes se llama degenerado . Si ⁠ ⁠${\displaystyle \mathbf {u} _{1}}$ y ⁠ ⁠${\displaystyle \mathbf {u} _{2}}$ son dos vectores singulares izquierdos que corresponden ambos al valor singular σ, entonces cualquier combinación lineal normalizada de los dos vectores es también un vector singular izquierdo correspondiente al valor singular σ. La afirmación similar es cierta para los vectores singulares derechos. El número de vectores singulares izquierdos y derechos independientes coincide, y estos vectores singulares aparecen en las mismas columnas de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ correspondientes a elementos diagonales de ⁠ ⁠${\displaystyle \mathbf {\Sigma } }$ todos con el mismo valor ⁠ ⁠${\displaystyle \sigma .}$

Como excepción, los vectores singulares izquierdo y derecho de valor singular 0 comprenden todos los vectores unitarios en el cokernel y kernel , respectivamente, de ⁠ ⁠${\displaystyle \mathbf {M} ,}$ que por el teorema de rango-nulidad no pueden tener la misma dimensión si ⁠ ⁠${\displaystyle m\neq n.}$ Incluso si todos los valores singulares son distintos de cero, si ⁠ ⁠${\displaystyle m>n}$ entonces el cokernel no es trivial, en cuyo caso ⁠ ⁠${\displaystyle \mathbf {U} }$ se rellena con ⁠ ⁠${\displaystyle m-n}$ vectores ortogonales del cokernel. Por el contrario, si ⁠ ⁠${\displaystyle m<n,}$ entonces ⁠ ⁠${\displaystyle \mathbf {V} }$ se rellena con ⁠ ⁠${\displaystyle n-m}$ vectores ortogonales del kernel. Sin embargo, si el valor singular de ⁠ ⁠${\displaystyle 0}$ existe, las columnas adicionales de ⁠ ⁠${\displaystyle \mathbf {U} }$ o ⁠ ⁠${\displaystyle \mathbf {V} }$ ya aparecen como vectores singulares izquierdo o derecho.

Los valores singulares no degenerados siempre tienen vectores singulares izquierdo y derecho únicos, hasta la multiplicación por un factor de fase unitaria ⁠ ⁠${\displaystyle e^{i\varphi }}$ (para el caso real hasta un signo). En consecuencia, si todos los valores singulares de una matriz cuadrada ⁠ ⁠${\displaystyle \mathbf {M} }$ son no degenerados y distintos de cero, entonces su descomposición en valores singulares es única, hasta la multiplicación de una columna de ⁠ ⁠${\displaystyle \mathbf {U} }$ por un factor de fase unitaria y la multiplicación simultánea de la columna correspondiente de ⁠ ⁠${\displaystyle \mathbf {V} }$ por el mismo factor de fase unitaria. En general, la descomposición en valores singulares es única hasta transformaciones unitarias arbitrarias aplicadas uniformemente a los vectores columna de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ que abarcan los subespacios de cada valor singular, y hasta transformaciones unitarias arbitrarias en vectores de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ que abarcan el núcleo y el conúcleo, respectivamente, de ⁠ ⁠${\displaystyle \mathbf {M} .}$

La descomposición en valores singulares es muy general en el sentido de que se puede aplicar a cualquier matriz ,${\displaystyle m\times n}$ mientras que la descomposición en valores propios solo se puede aplicar a matrices diagonalizables cuadradas . Sin embargo, las dos descomposiciones están relacionadas.

Si ⁠ ⁠${\displaystyle \mathbf {M} }$ tiene SVD ⁠ ⁠${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*},}$ se cumplen las dos relaciones siguientes:

$${\displaystyle {\begin{aligned}\mathbf {M} ^{*}\mathbf {M} &=\mathbf {V} \mathbf {\Sigma } ^{*}\mathbf {U} ^{*}\,\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}=\mathbf {V} (\mathbf {\Sigma } ^{*}\mathbf {\Sigma } )\mathbf {V} ^{*},\\[3mu]\mathbf {M} \mathbf {M} ^{*}&=\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}\,\mathbf {V} \mathbf {\Sigma } ^{*}\mathbf {U} ^{*}=\mathbf {U} (\mathbf {\Sigma } \mathbf {\Sigma } ^{*})\mathbf {U} ^{*}.\end{aligned}}}$$

Los lados derechos de estas relaciones describen las descomposiciones de valores propios de los lados izquierdos. En consecuencia:

• Las columnas de ⁠ ⁠${\displaystyle \mathbf {V} }$ (denominadas vectores singulares derechos) son vectores propios de ⁠ ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} .}$
• Las columnas de ⁠ ⁠${\displaystyle \mathbf {U} }$ (denominadas vectores singulares izquierdos) son vectores propios de ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {M} ^{*}.}$
• Los elementos distintos de cero de ⁠ ⁠${\displaystyle \mathbf {\Sigma } }$ (valores singulares distintos de cero) son las raíces cuadradas de los valores propios distintos de cero de ⁠ ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$ o ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {M} ^{*}.}$

En el caso especial de ⁠ ⁠${\displaystyle \mathbf {M} }$ ser una matriz normal , y por lo tanto también cuadrada, el teorema espectral asegura que puede ser diagonalizada unitariamente usando una base de vectores propios , y por lo tanto descompuesta como ⁠ ⁠ para alguna matriz unitaria ⁠ ⁠ y matriz diagonal ⁠ ⁠ con elementos complejos ⁠ ⁠ a lo largo de la diagonal. Cuando ⁠ ⁠ es semidefinida positiva , ⁠ ⁠ serán números reales no negativos de modo que la descomposición ⁠ ⁠ es también una descomposición en valores singulares. De lo contrario, se puede reformular como una SVD moviendo la fase de cada una a su correspondiente o La conexión natural de la SVD con matrices no normales es a través del teorema de descomposición polar : donde es semidefinida positiva y normal , y es unitaria .${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {D} \mathbf {U} ^{*}}$${\displaystyle \mathbf {U} }$${\displaystyle \mathbf {D} }$${\displaystyle \sigma _{i}}$${\displaystyle \mathbf {M} }$${\displaystyle \sigma _{i}}$${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {D} \mathbf {U} ^{*}}$${\displaystyle e^{i\varphi }}$${\displaystyle \sigma _{i}}$${\displaystyle \mathbf {V} _{i}}$${\displaystyle \mathbf {U} _{i}.}$${\displaystyle \mathbf {M} =\mathbf {S} \mathbf {R} ,}$${\displaystyle \mathbf {S} =\mathbf {U} \mathbf {\Sigma } \mathbf {U} ^{*}}$${\displaystyle \mathbf {R} =\mathbf {U} \mathbf {V} ^{*}}$

Por lo tanto, excepto para matrices semidefinidas positivas, la descomposición en valores propios y la SVD de ⁠ ⁠${\displaystyle \mathbf {M} ,}$ aunque relacionadas, difieren: la descomposición en valores propios es ⁠ ⁠${\displaystyle {1}}$ donde ⁠ ⁠${\displaystyle \mathbf {U} }$ no es necesariamente unitaria y ⁠ ⁠${\displaystyle \mathbf {D} }$ no es necesariamente semidefinida positiva, mientras que la SVD es ⁠ ⁠${\displaystyle {1}}$ donde ⁠ ⁠${\displaystyle \mathbf {\Sigma } }$ es diagonal y semidefinida positiva, y ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ son matrices unitarias que no están necesariamente relacionadas excepto a través de la matriz ⁠ ⁠${\displaystyle \mathbf {M} .}$ Mientras que solo las matrices cuadradas no defectuosas tienen una descomposición en valores propios, cualquier matriz ⁠ ⁠${\displaystyle m\times n}$ tiene una SVD.

La descomposición en valores singulares se puede utilizar para calcular la pseudoinversa de una matriz . La pseudoinversa de la matriz con${\displaystyle \mathbf {M} }$ descomposición en valores singulares es ,${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$

$${\displaystyle \mathbf {M} ^{+}=\mathbf {V} {\boldsymbol {\Sigma }}^{+}\mathbf {U} ^{\ast },}$$

donde es la pseudoinversa de , que se forma reemplazando cada entrada diagonal distinta de cero por su recíproca y transponiendo la matriz resultante. La pseudoinversa es una forma de resolver problemas de mínimos cuadrados lineales .${\displaystyle {\boldsymbol {\Sigma }}^{+}}$${\displaystyle {\boldsymbol {\Sigma }}}$

Un conjunto de ecuaciones lineales homogéneas se puede escribir como ⁠ ⁠${\displaystyle \mathbf {A} \mathbf {x} =\mathbf {0} }$ para una matriz ⁠ ⁠${\displaystyle \mathbf {A} }$ y un vector ⁠ ⁠${\displaystyle \mathbf {x} .}$ Una situación típica es que ⁠ ⁠${\displaystyle \mathbf {A} }$ se conoce y se debe determinar un ⁠ ⁠${\displaystyle \mathbf {x} }$ distinto de cero que satisface la ecuación. Tal ⁠ ⁠${\displaystyle \mathbf {x} }$ pertenece al espacio nulo de ⁠ ⁠${\displaystyle \mathbf {A} }$ y a veces se llama vector nulo (derecho) de ⁠ ⁠ El vector ⁠ ⁠ se puede caracterizar como un vector singular derecho correspondiente a un valor singular de ⁠ ⁠ que es cero. Esta observación significa que si ⁠ ⁠ es una matriz cuadrada y no tiene ningún valor singular evanescente, la ecuación no tiene ningún ⁠ ⁠ distinto de cero como solución. También significa que si hay varios valores singulares evanescentes, cualquier combinación lineal de los vectores singulares derechos correspondientes es una solución válida. De manera análoga a la definición de un vector nulo (derecho), un ⁠ ⁠ distinto de cero que satisface ⁠ ⁠ con ⁠ ⁠ que denota la transpuesta conjugada de ⁠ ⁠ se denomina vector nulo izquierdo de ⁠ ⁠${\displaystyle \mathbf {A} .}$${\displaystyle \mathbf {x} }$${\displaystyle \mathbf {A} }$${\displaystyle \mathbf {A} }$${\displaystyle \mathbf {x} }$${\displaystyle \mathbf {x} }$${\displaystyle \mathbf {x} ^{*}\mathbf {A} =\mathbf {0} }$${\displaystyle \mathbf {x} ^{*}}$${\displaystyle \mathbf {x} ,}$${\displaystyle \mathbf {A} .}$

Un problema de mínimos cuadrados totales busca el vector ⁠ ⁠${\displaystyle \mathbf {x} }$ que minimiza la norma 2 de un vector ⁠ ⁠${\displaystyle \mathbf {A} \mathbf {x} }$ bajo la restricción La solución resulta ser el vector singular derecho de ⁠ ⁠ correspondiente al valor singular más pequeño.${\displaystyle \|\mathbf {x} \|=1.}$${\displaystyle \mathbf {A} }$

Otra aplicación de la SVD es que proporciona una representación explícita del rango y el espacio nulo de una matriz ⁠ ⁠${\displaystyle \mathbf {M} .}$ Los vectores singulares derechos correspondientes a valores singulares que se desvanecen de ⁠ ⁠${\displaystyle \mathbf {M} }$ abarcan el espacio nulo de ⁠ ⁠${\displaystyle \mathbf {M} }$ y los vectores singulares izquierdos correspondientes a los valores singulares distintos de cero de ⁠ ⁠${\displaystyle \mathbf {M} }$ abarcan el rango de ⁠ ⁠${\displaystyle \mathbf {M} .}$ Por ejemplo, en el ejemplo anterior, el espacio nulo está abarcado por la última fila de ⁠ ⁠${\displaystyle \mathbf {V} ^{*}}$ y el rango está abarcado por las primeras tres columnas de ⁠ ⁠${\displaystyle \mathbf {U} .}$

Como consecuencia, el rango de ⁠ ⁠${\displaystyle \mathbf {M} }$ es igual al número de valores singulares distintos de cero, que es el mismo que el número de elementos diagonales distintos de cero en . En álgebra lineal numérica, los valores singulares se pueden utilizar para determinar el rango efectivo de una matriz, ya que el error de redondeo puede conducir a valores singulares pequeños pero distintos de cero en una matriz deficiente en rango. Se supone que los valores singulares más allá de un espacio significativo son numéricamente equivalentes a cero.${\displaystyle \mathbf {\Sigma } }$

Algunas aplicaciones prácticas necesitan resolver el problema de aproximar una matriz ⁠ ⁠${\displaystyle \mathbf {M} }$ con otra matriz , llamada truncada, que tiene un rango específico ⁠ ⁠ . En el caso de que la aproximación se base en minimizar la norma de Frobenius de la diferencia entre ⁠ ⁠ y ⁠ ⁠ bajo la restricción de que resulte que la solución está dada por la SVD de ⁠ ⁠ a saber${\displaystyle {\tilde {\mathbf {M} }}}$${\displaystyle r}$${\displaystyle \mathbf {M} }$${\displaystyle {\tilde {\mathbf {M} }}}$${\displaystyle \operatorname {rank} {\bigl (}{\tilde {\mathbf {M} }}{\bigr )}=r,}$${\displaystyle \mathbf {M} ,}$

$${\displaystyle {\tilde {\mathbf {M} }}=\mathbf {U} {\tilde {\mathbf {\Sigma } }}\mathbf {V} ^{*},}$$

donde es la misma matriz que excepto que contiene solo los valores singulares más grandes (los otros valores singulares se reemplazan por cero). Esto se conoce como el teorema de Eckart-Young , ya que fue demostrado por esos dos autores en 1936 (aunque luego se descubrió que lo conocían autores anteriores; consulte Stewart 1993).${\displaystyle {\tilde {\mathbf {\Sigma } }}}$${\displaystyle \mathbf {\Sigma } }$${\displaystyle r}$

La descomposición de una matriz en una suma ponderada y ordenada de matrices separables se puede considerar como la descomposición de una matriz en una suma ponderada y ordenada de matrices separables. Por separable, queremos decir que una matriz se puede${\displaystyle \mathbf {A} }$ escribir como un producto externo de dos vectores o ,${\displaystyle \mathbf {A} =\mathbf {u} \otimes \mathbf {v} ,}$ en coordenadas, Específicamente , ${\displaystyle A_{ij}=u_{i}v_{j}.}$la matriz se${\displaystyle \mathbf {M} }$ puede descomponer como,

$${\displaystyle \mathbf {M} =\sum _{i}\mathbf {A} _{i}=\sum _{i}\sigma _{i}\mathbf {U} _{i}\otimes \mathbf {V} _{i}.}$$

Aquí ⁠ ⁠${\displaystyle \mathbf {U} _{i}}$ y ⁠ ⁠${\displaystyle \mathbf {V} _{i}}$ son las ⁠ ⁠${\displaystyle i}$ -ésimas columnas de las matrices SVD correspondientes, ⁠ ⁠${\displaystyle \sigma _{i}}$ son los valores singulares ordenados, y cada ⁠ ⁠${\displaystyle \mathbf {A} _{i}}$ es separable. La SVD se puede utilizar para encontrar la descomposición de un filtro de procesamiento de imágenes en filtros horizontales y verticales separables. Nótese que el número de ⁠ ⁠ distintos de cero es exactamente${\displaystyle \sigma _{i}}$ el rango de la matriz. ^{[ cita requerida ]} Los modelos separables surgen a menudo en sistemas biológicos, y la factorización SVD es útil para analizar tales sistemas. Por ejemplo, algunos campos receptivos de células simples del área visual V1 se pueden describir bien ^[1] mediante un filtro de Gabor en el dominio espacial multiplicado por una función de modulación en el dominio temporal. Así, dado un filtro lineal evaluado mediante, por ejemplo, correlación inversa , se pueden reorganizar las dos dimensiones espaciales en una dimensión, produciendo así un filtro bidimensional (espacio, tiempo) que se puede descomponer mediante SVD. La primera columna de ⁠ ⁠${\displaystyle \mathbf {U} }$ en la factorización SVD es entonces un Gabor mientras que la primera columna de ⁠ ⁠${\displaystyle \mathbf {V} }$ representa la modulación temporal (o viceversa). Se puede entonces definir un índice de separabilidad

$${\displaystyle \alpha ={\frac {\sigma _{1}^{2}}{\sum _{i}\sigma _{i}^{2}}},}$$

que es la fracción de la potencia en la matriz M que se explica por la primera matriz separable en la descomposición. ^[2]

Es posible utilizar la SVD de una matriz cuadrada ⁠ ⁠${\displaystyle \mathbf {A} }$ para determinar la matriz ortogonal ⁠ ⁠${\displaystyle \mathbf {O} }$ más cercana a ⁠ ⁠${\displaystyle \mathbf {A} .}$ La proximidad del ajuste se mide por la norma de Frobenius de ⁠ ⁠${\displaystyle \mathbf {O} -\mathbf {A} .}$ La solución es el producto ⁠ ⁠ ${\displaystyle \mathbf {U} \mathbf {V} ^{*}.}$^[3] Esto intuitivamente tiene sentido porque una matriz ortogonal tendría la descomposición ⁠ ⁠${\displaystyle \mathbf {U} \mathbf {I} \mathbf {V} ^{*}}$ donde ⁠ ⁠${\displaystyle \mathbf {I} }$ es la matriz identidad, de modo que si ⁠ ⁠${\displaystyle \mathbf {A} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$ entonces el producto ⁠ ⁠${\displaystyle \mathbf {A} =\mathbf {U} \mathbf {V} ^{*}}$ equivale a reemplazar los valores singulares con unos. Equivalentemente, la solución es la matriz unitaria ⁠ ⁠${\displaystyle \mathbf {R} =\mathbf {U} \mathbf {V} ^{*}}$ de la Descomposición Polar en cualquier orden de estiramiento y rotación, como se describió anteriormente.${\displaystyle \mathbf {M} =\mathbf {R} \mathbf {P} =\mathbf {P} '\mathbf {R} }$

Un problema similar, con aplicaciones interesantes en el análisis de formas , es el problema ortogonal de Procrustes , que consiste en encontrar una matriz ortogonal que se${\displaystyle \mathbf {O} }$ asemeje más estrechamente a ⁠ ⁠ ${\displaystyle \mathbf {A} }$Específicamente${\displaystyle \mathbf {B} .}$ ,

$${\displaystyle \mathbf {O} ={\underset {\Omega }{\operatorname {argmin} }}\|\mathbf {A} {\boldsymbol {\Omega }}-\mathbf {B} \|_{F}\quad {\text{subject to}}\quad {\boldsymbol {\Omega }}^{\operatorname {T} }{\boldsymbol {\Omega }}=\mathbf {I} ,}$$

donde denota la norma de Frobenius.${\displaystyle \|\cdot \|_{F}}$

Este problema es equivalente a encontrar la matriz ortogonal más cercana a una matriz dada .${\displaystyle \mathbf {M} =\mathbf {A} ^{\operatorname {T} }\mathbf {B} }$

El algoritmo de Kabsch (llamado en otros campos el problema de Wahba ) utiliza la descomposición en valores singulares (SVD) para calcular la rotación óptima (con respecto a la minimización por mínimos cuadrados) que alineará un conjunto de puntos con un conjunto de puntos correspondiente. Se utiliza, entre otras aplicaciones, para comparar las estructuras de las moléculas.

La SVD y la pseudoinversa se han aplicado con éxito al procesamiento de señales , ^[4] procesamiento de imágenes ^[5] y big data (por ejemplo, en el procesamiento de señales genómicas). ^{[6] [7] [8] [9]}

La SVD también se aplica ampliamente al estudio de problemas inversos lineales y es útil en el análisis de métodos de regularización como el de Tikhonov . Se usa ampliamente en estadística, donde se relaciona con el análisis de componentes principales y el análisis de correspondencias , y en el procesamiento de señales y el reconocimiento de patrones . También se usa en el análisis modal de solo salida, donde las formas modales no escaladas se pueden determinar a partir de los vectores singulares. Otro uso es la indexación semántica latente en el procesamiento de texto en lenguaje natural.

En los cálculos numéricos generales que involucran sistemas lineales o linealizados, existe una constante universal que caracteriza la regularidad o singularidad de un problema, que es el "número de condición" del sistema . A menudo controla la tasa de error o la tasa de convergencia de un esquema computacional dado en tales sistemas. ^{[10] [11]}${\displaystyle \kappa :=\sigma _{\text{max}}/\sigma _{\text{min}}}$

La descomposición de Schmidt también desempeña un papel crucial en el campo de la información cuántica , en una forma que a menudo se denomina descomposición de Schmidt . A través de ella, los estados de dos sistemas cuánticos se descomponen de forma natural, proporcionando una condición necesaria y suficiente para que se enreden : que el rango de la matriz sea mayor que uno.${\displaystyle \mathbf {\Sigma } }$

Una aplicación de SVD a matrices bastante grandes es la predicción numérica del tiempo , donde se utilizan los métodos de Lanczos para estimar las pocas perturbaciones de crecimiento más rápido y lineal de la predicción numérica central del tiempo durante un período de tiempo inicial dado hacia adelante; es decir, los vectores singulares correspondientes a los valores singulares más grandes del propagador linealizado para el tiempo global durante ese intervalo de tiempo. Los vectores singulares de salida en este caso son sistemas meteorológicos completos. Estas perturbaciones luego se ejecutan a través del modelo no lineal completo para generar un pronóstico de conjunto , lo que da un control sobre parte de la incertidumbre que se debe permitir en torno a la predicción central actual.

La descomposición en valores singulares también se ha aplicado al modelado de orden reducido. El objetivo del modelado de orden reducido es reducir el número de grados de libertad en un sistema complejo que se va a modelar. La descomposición en valores singulares se acopló con funciones de base radial para interpolar soluciones a problemas de flujo inestable tridimensionales. ^[12]

Curiosamente, la SVD se ha utilizado para mejorar el modelado de formas de onda gravitacionales mediante el interferómetro de ondas gravitacionales terrestre aLIGO. ^[13] La SVD puede ayudar a aumentar la precisión y la velocidad de la generación de formas de onda para respaldar las búsquedas de ondas gravitacionales y actualizar dos modelos de formas de onda diferentes.

La descomposición en valores singulares se utiliza en sistemas de recomendación para predecir las calificaciones de los artículos por parte de las personas. ^[14] Se han desarrollado algoritmos distribuidos con el fin de calcular la descomposición en valores singulares en grupos de máquinas de productos básicos. ^[15]

La SVD de bajo rango se ha aplicado para la detección de puntos críticos a partir de datos espaciotemporales con aplicación a la detección de brotes de enfermedades . ^[16] También se ha aplicado una combinación de SVD y SVD de orden superior para la detección de eventos en tiempo real a partir de flujos de datos complejos (datos multivariados con dimensiones espaciales y temporales) en la vigilancia de enfermedades . ^[17]

En astrodinámica , la SVD y sus variantes se utilizan como una opción para determinar direcciones de maniobra adecuadas para el diseño de trayectorias de transferencia ^[18] y el mantenimiento de la posición orbital . ^[19]

Un valor propio ⁠ ⁠${\displaystyle \lambda }$ de una matriz ⁠ ⁠${\displaystyle \mathbf {M} }$ se caracteriza por la relación algebraica ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {u} =\lambda \mathbf {u} .}$ Cuando ⁠ ⁠${\displaystyle \mathbf {M} }$ es hermítico , también está disponible una caracterización variacional. Sea ⁠ ⁠ una ${\displaystyle \mathbf {M} }$matriz ⁠ ⁠${\displaystyle n\times n}$ simétrica real . Definir

$${\displaystyle f:\left\{{\begin{aligned}\mathbb {R} ^{n}&\to \mathbb {R} \\\mathbf {x} &\mapsto \mathbf {x} ^{\operatorname {T} }\mathbf {M} \mathbf {x} \end{aligned}}\right.}$$

Por el teorema del valor extremo , esta función continua alcanza un máximo en algún momento${\displaystyle \mathbf {u} }$ cuando se restringe a la esfera unitaria. Por el teorema de los multiplicadores de Lagrange , necesariamente satisface${\displaystyle \{\|\mathbf {x} \|=1\}.}$${\displaystyle \mathbf {u} }$

$${\displaystyle \nabla \mathbf {u} ^{\operatorname {T} }\mathbf {M} \mathbf {u} -\lambda \cdot \nabla \mathbf {u} ^{\operatorname {T} }\mathbf {u} =0}$$

para algún número real ⁠ ⁠${\displaystyle \lambda .}$ El símbolo nabla, ⁠ ⁠${\displaystyle \nabla }$ , es el operador del (diferenciación con respecto a ⁠ ⁠${\displaystyle \mathbf {x} }$ ). Usando la simetría de ⁠ ⁠${\displaystyle \mathbf {M} }$ obtenemos

$${\displaystyle \nabla \mathbf {x} ^{\operatorname {T} }\mathbf {M} \mathbf {x} -\lambda \cdot \nabla \mathbf {x} ^{\operatorname {T} }\mathbf {x} =2(\mathbf {M} -\lambda \mathbf {I} )\mathbf {x} .}$$

Por lo tanto , ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {u} =\lambda \mathbf {u} ,}$ entonces ⁠ ⁠${\displaystyle \mathbf {u} }$ es un vector propio de longitud unitaria de ⁠ ⁠${\displaystyle \mathbf {M} .}$ Para cada vector propio de longitud unitaria ⁠ ⁠${\displaystyle \mathbf {v} }$ de ⁠ ⁠${\displaystyle \mathbf {M} }$ su valor propio es ⁠ ⁠${\displaystyle f(\mathbf {v} ),}$ entonces ⁠ ⁠${\displaystyle \lambda }$ es el valor propio más grande de ⁠ ⁠${\displaystyle \mathbf {M} .}$ El mismo cálculo realizado en el complemento ortogonal de ⁠ ⁠${\displaystyle \mathbf {u} }$ da el siguiente valor propio más grande y así sucesivamente. El caso hermítico complejo es similar; hay ⁠ ⁠${\displaystyle f(\mathbf {x} )=\mathbf {x} ^{*}\mathbf {M} \mathbf {x} }$ una función de valor real de ⁠ ⁠${\displaystyle 2n}$ variables reales.

Los valores singulares son similares en el sentido de que pueden describirse algebraicamente o a partir de principios variacionales. Aunque, a diferencia del caso de los valores propios, la hermiticidad o simetría de ⁠ ⁠${\displaystyle \mathbf {M} }$ ya no es necesaria.

Esta sección presenta estos dos argumentos a favor de la existencia de la descomposición en valores singulares.

Sea una matriz compleja . Como es semidefinida positiva y hermítica, por el teorema espectral , existe una matriz unitaria tal que${\displaystyle \mathbf {M} }$${\displaystyle m\times n}$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle n\times n}$${\displaystyle \mathbf {V} }$

$${\displaystyle \mathbf {V} ^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} ={\bar {\mathbf {D} }}={\begin{bmatrix}\mathbf {D} &0\\0&0\end{bmatrix}},}$$

donde es diagonal y definida positiva, de dimensión , con el número de valores propios distintos de cero de (que se puede demostrar que verifica ). Nótese que aquí es por definición una matriz cuya -ésima columna es el -ésimo vector propio de , correspondiente al valor propio . Además, la -ésima columna de , para , es un vector propio de con valor propio . Esto se puede expresar escribiendo como , donde las columnas de y por lo tanto contienen los vectores propios de correspondientes a valores propios distintos de cero y cero, respectivamente. Usando esta reescritura de , la ecuación se convierte en:${\displaystyle \mathbf {D} }$${\displaystyle \ell \times \ell }$${\displaystyle \ell }$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle \ell \leq \min(n,m)}$${\displaystyle \mathbf {V} }$${\displaystyle i}$${\displaystyle i}$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle {\bar {\mathbf {D} }}_{ii}}$${\displaystyle j}$${\displaystyle \mathbf {V} }$${\displaystyle j>\ell }$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle {\bar {\mathbf {D} }}_{jj}=0}$${\displaystyle \mathbf {V} }$${\displaystyle \mathbf {V} ={\begin{bmatrix}\mathbf {V} _{1}&\mathbf {V} _{2}\end{bmatrix}}}$${\displaystyle \mathbf {V} _{1}}$${\displaystyle \mathbf {V} _{2}}$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle \mathbf {V} }$

$${\displaystyle {\begin{bmatrix}\mathbf {V} _{1}^{*}\\\mathbf {V} _{2}^{*}\end{bmatrix}}\mathbf {M} ^{*}\mathbf {M} \,{\begin{bmatrix}\mathbf {V} _{1}&\!\!\mathbf {V} _{2}\end{bmatrix}}={\begin{bmatrix}\mathbf {V} _{1}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{1}&\mathbf {V} _{1}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{2}\\\mathbf {V} _{2}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{1}&\mathbf {V} _{2}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{2}\end{bmatrix}}={\begin{bmatrix}\mathbf {D} &0\\0&0\end{bmatrix}}.}$$

Esto implica que

$${\displaystyle \mathbf {V} _{1}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{1}=\mathbf {D} ,\quad \mathbf {V} _{2}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{2}=\mathbf {0} .}$$

Además, la segunda ecuación implica . ^[20] Finalmente, la unicidad de se traduce, en términos de y , en las siguientes condiciones:${\displaystyle \mathbf {M} \mathbf {V} _{2}=\mathbf {0} }$${\displaystyle \mathbf {V} }$${\displaystyle \mathbf {V} _{1}}$${\displaystyle \mathbf {V} _{2}}$

$${\displaystyle {\begin{aligned}\mathbf {V} _{1}^{*}\mathbf {V} _{1}&=\mathbf {I} _{1},\\\mathbf {V} _{2}^{*}\mathbf {V} _{2}&=\mathbf {I} _{2},\\\mathbf {V} _{1}\mathbf {V} _{1}^{*}+\mathbf {V} _{2}\mathbf {V} _{2}^{*}&=\mathbf {I} _{12},\end{aligned}}}$$

donde los subíndices en las matrices identidad se utilizan para indicar que son de dimensiones diferentes.

Definamos ahora

$${\displaystyle \mathbf {U} _{1}=\mathbf {M} \mathbf {V} _{1}\mathbf {D} ^{-{\frac {1}{2}}}.}$$

Entonces,

$${\displaystyle \mathbf {U} _{1}\mathbf {D} ^{\frac {1}{2}}\mathbf {V} _{1}^{*}=\mathbf {M} \mathbf {V} _{1}\mathbf {D} ^{-{\frac {1}{2}}}\mathbf {D} ^{\frac {1}{2}}\mathbf {V} _{1}^{*}=\mathbf {M} (\mathbf {I} -\mathbf {V} _{2}\mathbf {V} _{2}^{*})=\mathbf {M} -(\mathbf {M} \mathbf {V} _{2})\mathbf {V} _{2}^{*}=\mathbf {M} ,}$$

ya que Esto también puede verse como una consecuencia inmediata del hecho de que . Esto es equivalente a la observación de que si es el conjunto de vectores propios de correspondientes a valores propios no nulos , entonces es un conjunto de vectores ortogonales, y es un conjunto (generalmente no completo) de vectores ortonormales . Esto coincide con el formalismo matricial utilizado anteriormente que denota con la matriz cuyas columnas son , con la matriz cuyas columnas son los vectores propios de con valor propio nulo, y la matriz cuyas columnas son los vectores .${\displaystyle \mathbf {M} \mathbf {V} _{2}=\mathbf {0} .}$${\displaystyle \mathbf {M} \mathbf {V} _{1}\mathbf {V} _{1}^{*}=\mathbf {M} }$${\displaystyle \{{\boldsymbol {v}}_{i}\}_{i=1}^{\ell }}$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle \{\lambda _{i}\}_{i=1}^{\ell }}$${\displaystyle \{\mathbf {M} {\boldsymbol {v}}_{i}\}_{i=1}^{\ell }}$${\displaystyle {\bigl \{}\lambda _{i}^{-1/2}\mathbf {M} {\boldsymbol {v}}_{i}{\bigr \}}{\vphantom {|}}_{i=1}^{\ell }}$${\displaystyle \mathbf {V} _{1}}$${\displaystyle \{{\boldsymbol {v}}_{i}\}_{i=1}^{\ell }}$${\displaystyle \mathbf {V} _{2}}$${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$${\displaystyle \mathbf {U} _{1}}$${\displaystyle {\bigl \{}\lambda _{i}^{-1/2}\mathbf {M} {\boldsymbol {v}}_{i}{\bigr \}}{\vphantom {|}}_{i=1}^{\ell }}$

Vemos que este es casi el resultado deseado, excepto que y en general no son unitarios, ya que podrían no ser cuadrados. Sin embargo, sabemos que el número de filas de no es menor que el número de columnas, ya que las dimensiones de no son mayores que y . Además, dado que${\displaystyle \mathbf {U} _{1}}$${\displaystyle \mathbf {V} _{1}}$${\displaystyle \mathbf {U} _{1}}$${\displaystyle \mathbf {D} }$${\displaystyle m}$${\displaystyle n}$

$${\displaystyle \mathbf {U} _{1}^{*}\mathbf {U} _{1}=\mathbf {D} ^{-{\frac {1}{2}}}\mathbf {V} _{1}^{*}\mathbf {M} ^{*}\mathbf {M} \mathbf {V} _{1}\mathbf {D} ^{-{\frac {1}{2}}}=\mathbf {D} ^{-{\frac {1}{2}}}\mathbf {D} \mathbf {D} ^{-{\frac {1}{2}}}=\mathbf {I_{1}} ,}$$

Las columnas de son ortonormales y pueden extenderse a una base ortonormal. Esto significa que podemos elegir una que sea unitaria.${\displaystyle \mathbf {U} _{1}}$${\displaystyle \mathbf {U} _{2}}$${\displaystyle \mathbf {U} ={\begin{bmatrix}\mathbf {U} _{1}&\mathbf {U} _{2}\end{bmatrix}}}$

Para ⁠ ⁠${\displaystyle \mathbf {V} _{1}}$ ya tenemos ⁠ ⁠${\displaystyle \mathbf {V} _{2}}$ para hacerlo unitario. Ahora, definamos

$${\displaystyle \mathbf {\Sigma } ={\begin{bmatrix}{\begin{bmatrix}\mathbf {D} ^{\frac {1}{2}}&0\\0&0\end{bmatrix}}\\0\end{bmatrix}},}$$

donde se agregan o eliminan filas cero adicionales para hacer que el número de filas cero sea igual al número de columnas de ⁠ ⁠${\displaystyle \mathbf {U} _{2},}$ y, por lo tanto, las dimensiones generales de sean iguales a . Entonces${\displaystyle \mathbf {\Sigma } }$${\displaystyle m\times n}$

$${\displaystyle {\begin{bmatrix}\mathbf {U} _{1}&\mathbf {U} _{2}\end{bmatrix}}{\begin{bmatrix}{\begin{bmatrix}\mathbf {} D^{\frac {1}{2}}&0\\0&0\end{bmatrix}}\\0\end{bmatrix}}{\begin{bmatrix}\mathbf {V} _{1}&\mathbf {V} _{2}\end{bmatrix}}^{*}={\begin{bmatrix}\mathbf {U} _{1}&\mathbf {U} _{2}\end{bmatrix}}{\begin{bmatrix}\mathbf {D} ^{\frac {1}{2}}\mathbf {V} _{1}^{*}\\0\end{bmatrix}}=\mathbf {U} _{1}\mathbf {D} ^{\frac {1}{2}}\mathbf {V} _{1}^{*}=\mathbf {M} ,}$$

¿Cuál es el resultado deseado?

$${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}.}$$

Nótese que el argumento podría comenzar diagonalizando ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {M} ^{*}}$ en lugar de ⁠ ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$ (Esto demuestra directamente que ⁠ ⁠${\displaystyle \mathbf {M} \mathbf {M} ^{*}}$ y ⁠ ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$ tienen los mismos valores propios distintos de cero).

Los valores singulares también pueden caracterizarse como los máximos de ⁠ ⁠${\displaystyle \mathbf {u} ^{\mathrm {T} }\mathbf {M} \mathbf {v} ,}$ considerados como una función de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} ,}$ sobre subespacios particulares. Los vectores singulares son los valores de ⁠ ⁠${\displaystyle \mathbf {U} }$ y ⁠ ⁠${\displaystyle \mathbf {V} }$ donde se alcanzan estos máximos.

Sea ⁠ ⁠${\displaystyle \mathbf {M} }$ una matriz ⁠ ⁠ con entradas reales. Sea ${\displaystyle m\times n}$⁠ ⁠${\displaystyle S^{k-1}}$ la esfera unitaria en , y definamos${\displaystyle (k-1)}$${\displaystyle \mathbb {R} ^{k}}$${\displaystyle \sigma (\mathbf {u} ,\mathbf {v} )=\mathbf {u} ^{\operatorname {T} }\mathbf {M} \mathbf {v} ,}$ ${\displaystyle \mathbf {u} \in S^{m-1},}$ ${\displaystyle \mathbf {v} \in S^{n-1}.}$