Matriz de covarianza

Parte de una serie sobre estadísticas
Correlación y covarianza
Para vectores aleatorios Matriz de autocorrelación Matriz de correlación cruzada Matriz de autocovarianza Matriz de covarianza cruzada
Para procesos estocásticos Función de autocorrelación Función de correlación cruzada Función de autocovarianza Función de covarianza cruzada
Para señales deterministas Función de autocorrelación Función de correlación cruzada Función de autocovarianza Función de covarianza cruzada
en a mi

En teoría de probabilidad y estadística , una matriz de covarianza (también conocida como matriz de autocovarianza , matriz de dispersión , matriz de varianza o matriz de varianza-covarianza ) es una matriz cuadrada que da la covarianza entre cada par de elementos de un vector aleatorio dado .

Intuitivamente, la matriz de covarianza generaliza la noción de varianza a múltiples dimensiones. Por ejemplo, la variación en una colección de puntos aleatorios en un espacio bidimensional no se puede caracterizar completamente con un solo número, ni las varianzas en las direcciones y contendrían toda la información necesaria; sería necesaria una matriz para caracterizar completamente la variación bidimensional.${\estilo de visualización x}$${\estilo de visualización y}$${\displaystyle 2\times 2}$

Cualquier matriz de covarianza es simétrica y semidefinida positiva y su diagonal principal contiene varianzas (es decir, la covarianza de cada elemento consigo mismo).

La matriz de covarianza de un vector aleatorio normalmente se denota por , o .${\displaystyle \mathbf {X}}$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$${\estilo de visualización \Sigma}$${\estilo de visualización S}$

A lo largo de este artículo, los caracteres en negrita y sin subíndice se utilizan para referirse a vectores aleatorios, y los caracteres romanos y con subíndice se utilizan para referirse a variables aleatorias escalares.${\displaystyle \mathbf {X}}$${\displaystyle \mathbf {Y}}$$Estilo de visualización X_{i}}$${\displaystyle Y_{i}}$

Si las entradas en el vector columna son variables aleatorias , cada una con varianza finita y valor esperado , entonces la matriz de covarianza es la matriz cuya entrada es la covarianza ^{[1] : 177} donde el operador denota el valor esperado (media) de su argumento.$${\displaystyle \mathbf {X} =(X_{1},X_{2},\puntos ,X_{n})^{\mathsf {T}}}$$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$${\displaystyle (i,j)}$$${\displaystyle \operatorname {K} _{X_{i}X_{j}}=\operatorname {cov} [X_{i},X_{j}]=\operatorname {E} [(X_{i}-\operatorname {E} [X_{i}])(X_{j}-\operatorname {E} [X_{j}])]}$$${\displaystyle \operatorname {E} }$

Las nomenclaturas difieren. Algunos estadísticos, siguiendo al probabilista William Feller en su libro de dos volúmenes Introducción a la teoría de la probabilidad y sus aplicaciones ^[2] , llaman a la matriz la varianza del vector aleatorio , porque es la generalización natural a dimensiones superiores de la varianza unidimensional. Otros la llaman matriz de covarianza , porque es la matriz de covarianzas entre los componentes escalares del vector .${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$$${\displaystyle \operatorname {var} (\mathbf {X} )=\operatorname {cov} (\mathbf {X} ,\mathbf {X} )=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathsf {T}}\right].}$$

Ambas formas son bastante estándar y no existe ninguna ambigüedad entre ellas. La matriz también suele denominarse matriz de varianza-covarianza , ya que los términos diagonales son, de hecho, varianzas.${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$

En comparación, la notación para la matriz de covarianza cruzada entre dos vectores es $${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {K} _{\mathbf {X} \mathbf {Y} }=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {Y} -\operatorname {E} [\mathbf {Y} ])^{\mathsf {T}}\right].}$$

La matriz de autocovarianza está relacionada con la matriz de autocorrelación por donde la matriz de autocorrelación se define como .${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }}$$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }=\operatorname {E} [(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathsf {T}}]=\operatorname {R} _{\mathbf {X} \mathbf {X} }-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\mathsf {T}}}$$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }=\operatorname {E} [\mathbf {X} \mathbf {X} ^{\mathsf {T}}]}$

Una entidad estrechamente relacionada con la matriz de covarianza es la matriz de coeficientes de correlación producto-momento de Pearson entre cada una de las variables aleatorias en el vector aleatorio , que puede escribirse como donde es la matriz de los elementos diagonales de (es decir, una matriz diagonal de las varianzas de para ).${\displaystyle \mathbf {X} }$$${\displaystyle \operatorname {corr} (\mathbf {X} )={\big (}\operatorname {diag} (\operatorname {K} _{\mathbf {X} \mathbf {X} }){\big )}^{-{\frac {1}{2}}}\,\operatorname {K} _{\mathbf {X} \mathbf {X} }\,{\big (}\operatorname {diag} (\operatorname {K} _{\mathbf {X} \mathbf {X} }){\big )}^{-{\frac {1}{2}}},}$$${\displaystyle \operatorname {diag} (\operatorname {K} _{\mathbf {X} \mathbf {X} })}$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$${\displaystyle X_{i}}$${\displaystyle i=1,\dots ,n}$

De manera equivalente, la matriz de correlación puede verse como la matriz de covarianza de las variables aleatorias estandarizadas para .${\displaystyle X_{i}/\sigma (X_{i})}$${\displaystyle i=1,\dots ,n}$$${\displaystyle \operatorname {corr} (\mathbf {X} )={\begin{bmatrix}1&{\frac {\operatorname {E} [(X_{1}-\mu _{1})(X_{2}-\mu _{2})]}{\sigma (X_{1})\sigma (X_{2})}}&\cdots &{\frac {\operatorname {E} [(X_{1}-\mu _{1})(X_{n}-\mu _{n})]}{\sigma (X_{1})\sigma (X_{n})}}\\\\{\frac {\operatorname {E} [(X_{2}-\mu _{2})(X_{1}-\mu _{1})]}{\sigma (X_{2})\sigma (X_{1})}}&1&\cdots &{\frac {\operatorname {E} [(X_{2}-\mu _{2})(X_{n}-\mu _{n})]}{\sigma (X_{2})\sigma (X_{n})}}\\\\\vdots &\vdots &\ddots &\vdots \\\\{\frac {\operatorname {E} [(X_{n}-\mu _{n})(X_{1}-\mu _{1})]}{\sigma (X_{n})\sigma (X_{1})}}&{\frac {\operatorname {E} [(X_{n}-\mu _{n})(X_{2}-\mu _{2})]}{\sigma (X_{n})\sigma (X_{2})}}&\cdots &1\end{bmatrix}}.}$$

Cada elemento de la diagonal principal de una matriz de correlación es la correlación de una variable aleatoria consigo misma, que siempre es igual a 1. Cada elemento fuera de la diagonal está entre −1 y +1 inclusive.

La inversa de esta matriz , si existe, es la matriz de covarianza inversa (o matriz de concentración inversa ^{[ dudoso – discutir ]} ), también conocida como matriz de precisión (o matriz de concentración ). ^[3]${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }^{-1}}$

Así como la matriz de covarianza puede escribirse como el reescalamiento de una matriz de correlación por las varianzas marginales: $${\displaystyle \operatorname {cov} (\mathbf {X} )={\begin{bmatrix}\sigma _{x_{1}}&&&0\\&\sigma _{x_{2}}\\&&\ddots \\0&&&\sigma _{x_{n}}\end{bmatrix}}{\begin{bmatrix}1&\rho _{x_{1},x_{2}}&\cdots &\rho _{x_{1},x_{n}}\\\rho _{x_{2},x_{1}}&1&\cdots &\rho _{x_{2},x_{n}}\\\vdots &\vdots &\ddots &\vdots \\\rho _{x_{n},x_{1}}&\rho _{x_{n},x_{2}}&\cdots &1\\\end{bmatrix}}{\begin{bmatrix}\sigma _{x_{1}}&&&0\\&\sigma _{x_{2}}\\&&\ddots \\0&&&\sigma _{x_{n}}\end{bmatrix}}}$$

Así, utilizando la idea de correlación parcial y varianza parcial, la matriz de covarianza inversa puede expresarse de manera análoga: Esta dualidad motiva una serie de otras dualidades entre la marginalización y el condicionamiento de las variables aleatorias gaussianas.$${\displaystyle \operatorname {cov} (\mathbf {X} )^{-1}={\begin{bmatrix}{\frac {1}{\sigma _{x_{1}|x_{2}...}}}&&&0\\&{\frac {1}{\sigma _{x_{2}|x_{1},x_{3}...}}}\\&&\ddots \\0&&&{\frac {1}{\sigma _{x_{n}|x_{1}...x_{n-1}}}}\end{bmatrix}}{\begin{bmatrix}1&-\rho _{x_{1},x_{2}\mid x_{3}...}&\cdots &-\rho _{x_{1},x_{n}\mid x_{2}...x_{n-1}}\\-\rho _{x_{2},x_{1}\mid x_{3}...}&1&\cdots &-\rho _{x_{2},x_{n}\mid x_{1},x_{3}...x_{n-1}}\\\vdots &\vdots &\ddots &\vdots \\-\rho _{x_{n},x_{1}\mid x_{2}...x_{n-1}}&-\rho _{x_{n},x_{2}\mid x_{1},x_{3}...x_{n-1}}&\cdots &1\\\end{bmatrix}}{\begin{bmatrix}{\frac {1}{\sigma _{x_{1}|x_{2}...}}}&&&0\\&{\frac {1}{\sigma _{x_{2}|x_{1},x_{3}...}}}\\&&\ddots \\0&&&{\frac {1}{\sigma _{x_{n}|x_{1}...x_{n-1}}}}\end{bmatrix}}}$$

Para y , donde es una variable aleatoria -dimensional, se aplican las siguientes propiedades básicas: ^[4]${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }=\operatorname {var} (\mathbf {X} )=\operatorname {E} \left[\left(\mathbf {X} -\operatorname {E} [\mathbf {X} ]\right)\left(\mathbf {X} -\operatorname {E} [\mathbf {X} ]\right)^{\mathsf {T}}\right]}$${\displaystyle {\boldsymbol {\mu }}_{\mathbf {X} }=\operatorname {E} [{\textbf {X}}]}$${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\mathsf {T}}}$${\displaystyle n}$

1. ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }=\operatorname {E} (\mathbf {XX^{\mathsf {T}}} )-{\boldsymbol {\mu }}_{\mathbf {X} }{\boldsymbol {\mu }}_{\mathbf {X} }^{\mathsf {T}}}$
2. ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }\,}$es positivo-semidefinido , es decir${\displaystyle \mathbf {a} ^{T}\operatorname {K} _{\mathbf {X} \mathbf {X} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {R} ^{n}}$
3. ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }\,}$es simétrico , es decir${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }^{\mathsf {T}}=\operatorname {K} _{\mathbf {X} \mathbf {X} }}$
4. Para cualquier matriz constante (es decir, no aleatoria) y vector constante , se tiene${\displaystyle m\times n}$${\displaystyle \mathbf {A} }$${\displaystyle m\times 1}$${\displaystyle \mathbf {a} }$${\displaystyle \operatorname {var} (\mathbf {AX} +\mathbf {a} )=\mathbf {A} \,\operatorname {var} (\mathbf {X} )\,\mathbf {A} ^{\mathsf {T}}}$
5. Si es otro vector aleatorio con la misma dimensión que , entonces donde es la matriz de covarianza cruzada de y .${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$${\displaystyle \operatorname {var} (\mathbf {X} +\mathbf {Y} )=\operatorname {var} (\mathbf {X} )+\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )+\operatorname {var} (\mathbf {Y} )}$${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

La matriz de media conjunta y de covarianza conjunta de y se puede escribir en forma de bloque donde , y .${\displaystyle {\boldsymbol {\mu }}}$ ${\displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$$${\displaystyle {\boldsymbol {\mu }}={\begin{bmatrix}{\boldsymbol {\mu }}_{X}\\{\boldsymbol {\mu }}_{Y}\end{bmatrix}},\qquad {\boldsymbol {\Sigma }}={\begin{bmatrix}\operatorname {K} _{\mathbf {XX} }&\operatorname {K} _{\mathbf {XY} }\\\operatorname {K} _{\mathbf {YX} }&\operatorname {K} _{\mathbf {YY} }\end{bmatrix}}}$$${\displaystyle \operatorname {K} _{\mathbf {XX} }=\operatorname {var} (\mathbf {X} )}$${\displaystyle \operatorname {K} _{\mathbf {YY} }=\operatorname {var} (\mathbf {Y} )}$${\displaystyle \operatorname {K} _{\mathbf {XY} }=\operatorname {K} _{\mathbf {YX} }^{\mathsf {T}}=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$

${\displaystyle \operatorname {K} _{\mathbf {XX} }}$y pueden identificarse como las matrices de varianza de las distribuciones marginales para y respectivamente.${\displaystyle \operatorname {K} _{\mathbf {YY} }}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

Si y se distribuyen normalmente de forma conjunta , entonces la distribución condicional para dado está dada por ^[5] definida por la media condicional y la varianza condicional.${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$$${\displaystyle \mathbf {X} ,\mathbf {Y} \sim \ {\mathcal {N}}({\boldsymbol {\mu }},\operatorname {\boldsymbol {\Sigma }} ),}$$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$$${\displaystyle \mathbf {Y} \mid \mathbf {X} \sim \ {\mathcal {N}}({\boldsymbol {\mu }}_{\mathbf {Y|X} },\operatorname {K} _{\mathbf {Y|X} }),}$$$${\displaystyle {\boldsymbol {\mu }}_{\mathbf {Y} |\mathbf {X} }={\boldsymbol {\mu }}_{\mathbf {Y} }+\operatorname {K} _{\mathbf {YX} }\operatorname {K} _{\mathbf {XX} }^{-1}\left(\mathbf {X} -{\boldsymbol {\mu }}_{\mathbf {X} }\right)}$$$${\displaystyle \operatorname {K} _{\mathbf {Y|X} }=\operatorname {K} _{\mathbf {YY} }-\operatorname {K} _{\mathbf {YX} }\operatorname {K} _{\mathbf {XX} }^{-1}\operatorname {K} _{\mathbf {XY} }.}$$

La matriz se conoce como la matriz de coeficientes de regresión , mientras que en álgebra lineal es el complemento de Schur de en .${\displaystyle \operatorname {K} _{\mathbf {YX} }\operatorname {K} _{\mathbf {XX} }^{-1}}$${\displaystyle \operatorname {K} _{\mathbf {Y|X} }}$${\displaystyle \operatorname {K} _{\mathbf {XX} }}$${\displaystyle {\boldsymbol {\Sigma }}}$

La matriz de coeficientes de regresión puede darse a menudo en forma de transposición, , adecuada para la multiplicación posterior de un vector fila de variables explicativas en lugar de la multiplicación previa de un vector columna . En esta forma, corresponden a los coeficientes obtenidos al invertir la matriz de las ecuaciones normales de mínimos cuadrados ordinarios (MCO).${\displaystyle \operatorname {K} _{\mathbf {XX} }^{-1}\operatorname {K} _{\mathbf {XY} }}$${\displaystyle \mathbf {X} ^{\mathsf {T}}}$${\displaystyle \mathbf {X} }$

Una matriz de covarianza con todos los elementos distintos de cero nos indica que todas las variables aleatorias individuales están interrelacionadas. Esto significa que las variables no solo están correlacionadas directamente, sino que también lo están indirectamente a través de otras variables. A menudo, estas correlaciones indirectas de modo común son triviales y poco interesantes. Se pueden suprimir calculando la matriz de covarianza parcial, es decir, la parte de la matriz de covarianza que muestra solo la parte interesante de las correlaciones.

Si dos vectores de variables aleatorias y están correlacionados a través de otro vector , las últimas correlaciones se suprimen en una matriz ^[6]. La matriz de covarianza parcial es efectivamente la matriz de covarianza simple como si las variables aleatorias sin interés se mantuvieran constantes.${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {I} }$$${\displaystyle \operatorname {K} _{\mathbf {XY\mid I} }=\operatorname {pcov} (\mathbf {X} ,\mathbf {Y} \mid \mathbf {I} )=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )-\operatorname {cov} (\mathbf {X} ,\mathbf {I} )\operatorname {cov} (\mathbf {I} ,\mathbf {I} )^{-1}\operatorname {cov} (\mathbf {I} ,\mathbf {Y} ).}$$${\displaystyle \operatorname {K} _{\mathbf {XY\mid I} }}$${\displaystyle \operatorname {K} _{\mathbf {XY} }}$${\displaystyle \mathbf {I} }$

Si un vector de columna de variables aleatorias posiblemente correlacionadas se distribuye normalmente de manera conjunta , o más generalmente se distribuye elípticamente , entonces su función de densidad de probabilidad se puede expresar en términos de la matriz de covarianza de la siguiente manera ^[6] donde y es el determinante de .${\displaystyle \mathbf {X} }$${\displaystyle n}$ ${\displaystyle \operatorname {f} (\mathbf {X} )}$${\displaystyle {\boldsymbol {\Sigma }}}$$${\displaystyle \operatorname {f} (\mathbf {X} )=(2\pi )^{-n/2}|{\boldsymbol {\Sigma }}|^{-1/2}\exp \left(-{\tfrac {1}{2}}\mathbf {(X-\mu )^{\mathsf {T}}\Sigma ^{-1}(X-\mu )} \right),}$$${\displaystyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} ]}$${\displaystyle |{\boldsymbol {\Sigma }}|}$${\displaystyle {\boldsymbol {\Sigma }}}$

Aplicada a un vector, la matriz de covarianzas asigna una combinación lineal c de las variables aleatorias X a un vector de covarianzas con esas variables: . Tratada como una forma bilineal , produce la covarianza entre las dos combinaciones lineales: . La varianza de una combinación lineal es entonces , su covarianza consigo misma.${\displaystyle \mathbf {c} ^{\mathsf {T}}\Sigma =\operatorname {cov} (\mathbf {c} ^{\mathsf {T}}\mathbf {X} ,\mathbf {X} )}$${\displaystyle \mathbf {d} ^{\mathsf {T}}{\boldsymbol {\Sigma }}\mathbf {c} =\operatorname {cov} (\mathbf {d} ^{\mathsf {T}}\mathbf {X} ,\mathbf {c} ^{\mathsf {T}}\mathbf {X} )}$${\displaystyle \mathbf {c} ^{\mathsf {T}}{\boldsymbol {\Sigma }}\mathbf {c} }$

De manera similar, la matriz de covarianza (pseudo)inversa proporciona un producto interno , que induce la distancia de Mahalanobis , una medida de la "improbabilidad" de c . ^{[ cita requerida ]}${\displaystyle \langle c-\mu |\Sigma ^{+}|c-\mu \rangle }$

A partir de la identidad anterior, sea un vector de valor real, entonces que siempre debe ser no negativo, ya que es la varianza de una variable aleatoria de valor real, por lo que una matriz de covarianza es siempre una matriz semidefinida positiva .${\displaystyle \mathbf {b} }$${\displaystyle (p\times 1)}$$${\displaystyle \operatorname {var} (\mathbf {b} ^{\mathsf {T}}\mathbf {X} )=\mathbf {b} ^{\mathsf {T}}\operatorname {var} (\mathbf {X} )\mathbf {b} ,\,}$$

El argumento anterior se puede ampliar de la siguiente manera: donde la última desigualdad se deduce de la observación de que es un escalar.$${\displaystyle {\begin{aligned}&w^{\mathsf {T}}\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathsf {T}}\right]w=\operatorname {E} \left[w^{\mathsf {T}}(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathsf {T}}w\right]\\&=\operatorname {E} {\big [}{\big (}w^{\mathsf {T}}(\mathbf {X} -\operatorname {E} [\mathbf {X} ]){\big )}^{2}{\big ]}\geq 0,\end{aligned}}}$$${\displaystyle w^{\mathsf {T}}(\mathbf {X} -\operatorname {E} [\mathbf {X} ])}$

Por el contrario, toda matriz semidefinida positiva simétrica es una matriz de covarianza. Para ver esto, supongamos que es una matriz semidefinida positiva simétrica. Del caso de dimensión finita del teorema espectral , se deduce que tiene una raíz cuadrada simétrica no negativa , que puede denotarse por M ^1/2 . Sea cualquier variable aleatoria con valor de vector columna cuya matriz de covarianza sea la matriz identidad. Entonces${\displaystyle M}$${\displaystyle p\times p}$${\displaystyle M}$${\displaystyle \mathbf {X} }$${\displaystyle p\times 1}$${\displaystyle p\times p}$$${\displaystyle \operatorname {var} (\mathbf {M} ^{1/2}\mathbf {X} )=\mathbf {M} ^{1/2}\,\operatorname {var} (\mathbf {X} )\,\mathbf {M} ^{1/2}=\mathbf {M} .}$$

La varianza de una variable aleatoria compleja con valor escalar y valor esperado se define convencionalmente utilizando la conjugación compleja : donde el conjugado complejo de un número complejo se denota ; por lo tanto, la varianza de una variable aleatoria compleja es un número real.${\displaystyle \mu }$$${\displaystyle \operatorname {var} (Z)=\operatorname {E} \left[(Z-\mu _{Z}){\overline {(Z-\mu _{Z})}}\right],}$$${\displaystyle z}$${\displaystyle {\overline {z}}}$

Si es un vector columna de variables aleatorias de valor complejo, entonces la transpuesta conjugada se forma tanto transponiendo como conjugando. En la siguiente expresión, el producto de un vector con su transpuesta conjugada da como resultado una matriz cuadrada llamada matriz de covarianza , como su esperanza: ^{[7] : 293} La matriz así obtenida será hermítica positiva-semidefinida , ^[8] con números reales en la diagonal principal y números complejos fuera de la diagonal.${\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{n})^{\mathsf {T}}}$ ${\displaystyle \mathbf {Z} ^{\mathsf {H}}}$$${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {Z} }=\operatorname {cov} [\mathbf {Z} ,\mathbf {Z} ]=\operatorname {E} \left[(\mathbf {Z} -{\boldsymbol {\mu }}_{\mathbf {Z} })(\mathbf {Z} -{\boldsymbol {\mu }}_{\mathbf {Z} })^{\mathsf {H}}\right],}$$

Propiedades

• La matriz de covarianza es una matriz hermítica , es decir . ^{[1] : 179}${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {Z} }^{\mathsf {H}}=\operatorname {K} _{\mathbf {Z} \mathbf {Z} }}$
• Los elementos diagonales de la matriz de covarianza son reales. ^{[1] : 179}

Para los vectores aleatorios complejos, otro tipo de segundo momento central, la matriz de pseudocovarianza (también llamada matriz de relación ), se define de la siguiente manera:$${\displaystyle \operatorname {J} _{\mathbf {Z} \mathbf {Z} }=\operatorname {cov} [\mathbf {Z} ,{\overline {\mathbf {Z} }}]=\operatorname {E} \left[(\mathbf {Z} -{\boldsymbol {\mu }}_{\mathbf {Z} })(\mathbf {Z} -{\boldsymbol {\mu }}_{\mathbf {Z} })^{\mathsf {T}}\right]}$$

A diferencia de la matriz de covarianza definida anteriormente, la transposición hermítica se reemplaza por transposición en la definición. Sus elementos diagonales pueden tener valores complejos; es una matriz simétrica compleja .

Si y son matrices de datos centradas de dimensión y respectivamente, es decir con n columnas de observaciones de p y q filas de variables, de las que se han restado las medias de fila, entonces, si las medias de fila se estimaron a partir de los datos, las matrices de covarianza de muestra y pueden definirse como o, si las medias de fila se conocían a priori,${\displaystyle \mathbf {M} _{\mathbf {X} }}$${\displaystyle \mathbf {M} _{\mathbf {Y} }}$${\displaystyle p\times n}$${\displaystyle q\times n}$${\displaystyle \mathbf {Q} _{\mathbf {XX} }}$${\displaystyle \mathbf {Q} _{\mathbf {XY} }}$$${\displaystyle \mathbf {Q} _{\mathbf {XX} }={\frac {1}{n-1}}\mathbf {M} _{\mathbf {X} }\mathbf {M} _{\mathbf {X} }^{\mathsf {T}},\qquad \mathbf {Q} _{\mathbf {XY} }={\frac {1}{n-1}}\mathbf {M} _{\mathbf {X} }\mathbf {M} _{\mathbf {Y} }^{\mathsf {T}}}$$$${\displaystyle \mathbf {Q} _{\mathbf {XX} }={\frac {1}{n}}\mathbf {M} _{\mathbf {X} }\mathbf {M} _{\mathbf {X} }^{\mathsf {T}},\qquad \mathbf {Q} _{\mathbf {XY} }={\frac {1}{n}}\mathbf {M} _{\mathbf {X} }\mathbf {M} _{\mathbf {Y} }^{\mathsf {T}}.}$$

Estas matrices de covarianza de muestra empírica son los estimadores más sencillos y más utilizados para las matrices de covarianza, pero también existen otros estimadores, incluidos los estimadores regularizados o de contracción, que pueden tener mejores propiedades.

La matriz de covarianza es una herramienta útil en muchas áreas diferentes. A partir de ella se puede derivar una matriz de transformación , llamada transformación de blanqueamiento , que permite descorrelacionar completamente los datos ^[9] o, desde un punto de vista diferente, encontrar una base óptima para representar los datos de una manera compacta ^{[ cita requerida ]} (ver cociente de Rayleigh para una prueba formal y propiedades adicionales de las matrices de covarianza). Esto se llama análisis de componentes principales (PCA) y la transformada de Karhunen-Loève (transformada KL).

La matriz de covarianzas desempeña un papel fundamental en la economía financiera , especialmente en la teoría de carteras y su teorema de separación de fondos mutuos y en el modelo de valoración de activos de capital . La matriz de covarianzas entre los rendimientos de varios activos se utiliza para determinar, bajo ciertos supuestos, las cantidades relativas de diferentes activos que los inversores deberían (en un análisis normativo ) o se prevé que elijan (en un análisis positivo ) mantener en un contexto de diversificación .

La estrategia de evolución , una familia particular de heurísticas de búsqueda aleatoria, se basa fundamentalmente en una matriz de covarianza en su mecanismo. El operador de mutación característico extrae el paso de actualización de una distribución normal multivariante utilizando una matriz de covarianza evolutiva. Existe una prueba formal de que la matriz de covarianza de la estrategia de evolución se adapta a la inversa de la matriz hessiana del paisaje de búsqueda, hasta un factor escalar y pequeñas fluctuaciones aleatorias (probadas para una estrategia de padre único y un modelo estático, a medida que aumenta el tamaño de la población, basándose en la aproximación cuadrática). ^[10] Intuitivamente, este resultado está respaldado por la lógica de que la distribución de covarianza óptima puede ofrecer pasos de mutación cuyos contornos de probabilidad de equidensidad coinciden con los conjuntos de niveles del paisaje, y por lo tanto maximizan la tasa de progreso.

En el mapeo de covarianza, los valores de la matriz o se representan como un mapa bidimensional. Cuando los vectores y son funciones aleatorias discretas , el mapa muestra relaciones estadísticas entre diferentes regiones de las funciones aleatorias. Las regiones estadísticamente independientes de las funciones aparecen en el mapa como llanuras de nivel cero, mientras que las correlaciones positivas o negativas aparecen, respectivamente, como colinas o valles.${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$${\displaystyle \operatorname {pcov} (\mathbf {X} ,\mathbf {Y} \mid \mathbf {I} )}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

En la práctica, los vectores columna , y se adquieren experimentalmente como filas de muestras, p. ej. , donde es el i -ésimo valor discreto en la muestra j de la función aleatoria . Los valores esperados necesarios en la fórmula de covarianza se estiman utilizando la media de la muestra , p. ej. , y la matriz de covarianza se estima mediante la matriz de covarianza de la muestra donde los corchetes angulares denotan el promedio de la muestra como antes, excepto que se debe realizar la corrección de Bessel para evitar el sesgo . Usando esta estimación, la matriz de covarianza parcial se puede calcular como donde la barra invertida denota el operador de división de matriz izquierda , que evita el requisito de invertir una matriz y está disponible en algunos paquetes computacionales como Matlab . ^[11]${\displaystyle \mathbf {X} ,\mathbf {Y} }$${\displaystyle \mathbf {I} }$${\displaystyle n}$$${\displaystyle \left[\mathbf {X} _{1},\mathbf {X} _{2},\dots ,\mathbf {X} _{n}\right]={\begin{bmatrix}X_{1}(t_{1})&X_{2}(t_{1})&\cdots &X_{n}(t_{1})\\\\X_{1}(t_{2})&X_{2}(t_{2})&\cdots &X_{n}(t_{2})\\\\\vdots &\vdots &\ddots &\vdots \\\\X_{1}(t_{m})&X_{2}(t_{m})&\cdots &X_{n}(t_{m})\end{bmatrix}},}$$${\displaystyle X_{j}(t_{i})}$${\displaystyle X(t)}$$${\displaystyle \langle \mathbf {X} \rangle ={\frac {1}{n}}\sum _{j=1}^{n}\mathbf {X} _{j}}$$$${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )\approx \langle \mathbf {XY^{\mathsf {T}}} \rangle -\langle \mathbf {X} \rangle \langle \mathbf {Y} ^{\mathsf {T}}\rangle ,}$$$${\displaystyle \operatorname {pcov} (\mathbf {X} ,\mathbf {Y} \mid \mathbf {I} )=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )-\operatorname {cov} (\mathbf {X} ,\mathbf {I} )\left(\operatorname {cov} (\mathbf {I} ,\mathbf {I} )\backslash \operatorname {cov} (\mathbf {I} ,\mathbf {Y} )\right),}$$

La figura 1 ilustra cómo se construye un mapa de covarianza parcial a partir de un ejemplo de un experimento realizado en el láser de electrones libres FLASH en Hamburgo. ^[12] La función aleatoria es el espectro de tiempo de vuelo de iones de una explosión de Coulomb de moléculas de nitrógeno ionizadas de forma múltiple por un pulso láser. Dado que solo se ionizan unos pocos cientos de moléculas en cada pulso láser, los espectros de disparo único son muy fluctuantes. Sin embargo, la recopilación típica de dichos espectros, , y su promediado produce un espectro suave , que se muestra en rojo en la parte inferior de la figura 1. El espectro promedio revela varios iones de nitrógeno en forma de picos ensanchados por su energía cinética, pero para encontrar las correlaciones entre las etapas de ionización y los momentos iónicos se requiere calcular un mapa de covarianza.${\displaystyle X(t)}$${\displaystyle m=10^{4}}$${\displaystyle \mathbf {X} _{j}(t)}$${\displaystyle j}$${\displaystyle \langle \mathbf {X} (t)\rangle }$${\displaystyle \langle \mathbf {X} \rangle }$

En el ejemplo de la Fig. 1, los espectros y son los mismos, excepto que el rango del tiempo de vuelo difiere. El panel a muestra , el panel b muestra y el panel c muestra su diferencia, que es (nótese un cambio en la escala de colores). Desafortunadamente, este mapa está abrumado por correlaciones de modo común poco interesantes inducidas por la intensidad del láser que fluctúa de un disparo a otro. Para suprimir tales correlaciones, la intensidad del láser se registra en cada disparo, se coloca en y se calcula como muestran los paneles d y e . Sin embargo, la supresión de las correlaciones poco interesantes es imperfecta porque hay otras fuentes de fluctuaciones de modo común además de la intensidad del láser y, en principio, todas estas fuentes deberían monitorearse en el vector . Sin embargo, en la práctica, a menudo es suficiente sobrecompensar la corrección de covarianza parcial como muestra el panel f , donde las correlaciones interesantes de los momentos iónicos ahora son claramente visibles como líneas rectas centradas en las etapas de ionización del nitrógeno atómico.${\displaystyle \mathbf {X} _{j}(t)}$${\displaystyle \mathbf {Y} _{j}(t)}$${\displaystyle t}$${\displaystyle \langle \mathbf {XY^{\mathsf {T}}} \rangle }$${\displaystyle \langle \mathbf {X} \rangle \langle \mathbf {Y} ^{\mathsf {T}}\rangle }$${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$${\displaystyle I_{j}}$${\displaystyle \mathbf {I} }$${\displaystyle \operatorname {pcov} (\mathbf {X} ,\mathbf {Y} \mid \mathbf {I} )}$${\displaystyle \mathbf {I} }$

La espectroscopia infrarroja bidimensional emplea el análisis de correlación para obtener espectros 2D de la fase condensada . Existen dos versiones de este análisis: sincrónico y asincrónico . Matemáticamente, el primero se expresa en términos de la matriz de covarianza de la muestra y la técnica es equivalente al mapeo de covarianza. ^[13]

• Función de covarianza
• Descomposición de valores propios
• Matriz gramiana
• Distribución Lewandowski-Kurowicka-Joe
• Estadísticas multivariadas
• Componentes principales
• Forma cuadrática (estadística)

• "Matriz de covarianza", Enciclopedia de Matemáticas , EMS Press , 2001 [1994]
• "Matriz de covarianza explicada con imágenes": ¡una forma sencilla de visualizar matrices de covarianza!
• Weisstein, Eric W. "Matriz de covarianza". MathWorld .
• van Kampen, NG (1981). Procesos estocásticos en física y química . Nueva York: North-Holland. ISBN 0-444-86200-5.